腾讯(tencent)招聘金融科技-Agent架构设计与推理性能优化工程师
招聘职位:
金融科技-Agent架构设计与推理性能优化工程师 搜索同类职位
岗位职责:
1.· 负责Agent harness的设计与平台 Agent 开发,结合统一Agent框架、标准LLM服务,扩展自定义工具、沙箱 、Agent 互调通信,完成业务功能目标;
2.· 围绕工具的场景,定义量化指标,并结合轨迹的合理性,整体优化 Agent 工作效率与效果;
3.· 优化模型推理性能,包括缓存命中率、私有化推理集群的调度、卡适配、跨集群成本削峰填谷等,提升推理资源利用率和响应速度;
4.· 协助Agent框架与FAT平台、LLM API、评测系统的打通,实现一站式Agent创建、上线与效果评估;
5.· 跟踪Agent与推理框架的前沿技术,结合业务需求探索创新方案并推动落地。
岗位要求:
1.· 具备扎实的后台工程能力,有行业 成熟 Agent框架的实战经验;
2.· 熟悉大模型推理框架,有相关优化经验(vLLM、sglang等);
3.· 有卡推理适配和集群化推理调度经验者优先;
4.· 有持续的一线技术优化实战经验,能独立承担Agent设计与核心模块开发,对Agent的上下文工程、工具调用、Skill设计有深入理解,了解最新上下文设计原则;
5.· 计算机、人工智能等相关专业本科及以上学历,有顶会论文或开源项目贡献者优先。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它成为我们共有的宝贵资产。在不同的业务场景和技术发展阶段,你的架构思维也将帮助更多协作团队拓展新的思考。我们也珍视你的挑战精神,同时欢迎你一起参与团队愿景、文化和产品方向的探讨。
1.· 负责Agent harness的设计与平台 Agent 开发,结合统一Agent框架、标准LLM服务,扩展自定义工具、沙箱 、Agent 互调通信,完成业务功能目标;
2.· 围绕工具的场景,定义量化指标,并结合轨迹的合理性,整体优化 Agent 工作效率与效果;
3.· 优化模型推理性能,包括缓存命中率、私有化推理集群的调度、卡适配、跨集群成本削峰填谷等,提升推理资源利用率和响应速度;
4.· 协助Agent框架与FAT平台、LLM API、评测系统的打通,实现一站式Agent创建、上线与效果评估;
5.· 跟踪Agent与推理框架的前沿技术,结合业务需求探索创新方案并推动落地。
岗位要求:
1.· 具备扎实的后台工程能力,有行业 成熟 Agent框架的实战经验;
2.· 熟悉大模型推理框架,有相关优化经验(vLLM、sglang等);
3.· 有卡推理适配和集群化推理调度经验者优先;
4.· 有持续的一线技术优化实战经验,能独立承担Agent设计与核心模块开发,对Agent的上下文工程、工具调用、Skill设计有深入理解,了解最新上下文设计原则;
5.· 计算机、人工智能等相关专业本科及以上学历,有顶会论文或开源项目贡献者优先。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它成为我们共有的宝贵资产。在不同的业务场景和技术发展阶段,你的架构思维也将帮助更多协作团队拓展新的思考。我们也珍视你的挑战精神,同时欢迎你一起参与团队愿景、文化和产品方向的探讨。
免责声明:
此信息由腾讯官网 (查看来源)审核并发布,我们转载该信息,仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“腾讯官网”负责。我们作为信息转载平台,不构成求职建议,不涉及任何职业中介服务,不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎,自行判断并承担相应风险,求职请认准企业官方渠道!