腾讯(tencent)招聘微信读书-大模型推理优化工程师- NLP方向
招聘职位:
微信读书-大模型推理优化工程师- NLP方向 搜索同类职位
岗位职责:
1.负责微信读书长文本理解场景下大模型(LLM)的部署与推理优化工作,聚焦系统吞吐量(Throughput)及服务性能的极致调优;
2.针对长文本理解的业务特性,开展大模型量化、推理加速等专项落地工作,提升模型在长上下文场景下的推理效率;
3.跟踪大模型推理优化前沿技术(如投机解码、KV Cache 优化、动态批处理等),结合微信读书长文本阅读场景的业务需求开展技术预研与难点攻关,沉淀可复用的技术方案。
岗位要求:
1.本科及以上学历,计算机相关专业,具备良好的算法、数据结构及操作系统基础;
2.1 年及以上工业级项目开发经验,熟练掌握 Python,了解 Golang 优先,能独立完成推理相关的开发与调优工作;
3.熟悉 Linux 环境开发,了解常见后端架构方案(RPC 框架、消息队列等),具备扎实的性能瓶颈定位与数据分析能力;
4.有 SGLang/TensorRT//vLLM 等推理框架的使用经验;
5.具备良好的代码习惯,沟通高效,有强烈的技术攻坚意愿与责任心。
加分项:
1.有长上下文(8k/32k+)大模型推理优化实战经验,熟悉 RoPE 位置编码优化、滑窗注意力、上下文压缩等技术,能针对长文本理解场景设计高效的推理策略;
2.了解GPU 性能分析工具(如 Nsight Systems、Py-Spy)、性能 profiling 方法,能系统性定位并解决推理服务的性能瓶颈,具备端到端的性能调优能力优先。
1.负责微信读书长文本理解场景下大模型(LLM)的部署与推理优化工作,聚焦系统吞吐量(Throughput)及服务性能的极致调优;
2.针对长文本理解的业务特性,开展大模型量化、推理加速等专项落地工作,提升模型在长上下文场景下的推理效率;
3.跟踪大模型推理优化前沿技术(如投机解码、KV Cache 优化、动态批处理等),结合微信读书长文本阅读场景的业务需求开展技术预研与难点攻关,沉淀可复用的技术方案。
岗位要求:
1.本科及以上学历,计算机相关专业,具备良好的算法、数据结构及操作系统基础;
2.1 年及以上工业级项目开发经验,熟练掌握 Python,了解 Golang 优先,能独立完成推理相关的开发与调优工作;
3.熟悉 Linux 环境开发,了解常见后端架构方案(RPC 框架、消息队列等),具备扎实的性能瓶颈定位与数据分析能力;
4.有 SGLang/TensorRT//vLLM 等推理框架的使用经验;
5.具备良好的代码习惯,沟通高效,有强烈的技术攻坚意愿与责任心。
加分项:
1.有长上下文(8k/32k+)大模型推理优化实战经验,熟悉 RoPE 位置编码优化、滑窗注意力、上下文压缩等技术,能针对长文本理解场景设计高效的推理策略;
2.了解GPU 性能分析工具(如 Nsight Systems、Py-Spy)、性能 profiling 方法,能系统性定位并解决推理服务的性能瓶颈,具备端到端的性能调优能力优先。
免责声明:
此信息由腾讯官网 (查看来源)审核并发布,我们转载该信息,仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“腾讯官网”负责。我们作为信息转载平台,不构成求职建议,不涉及任何职业中介服务,不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎,自行判断并承担相应风险,求职请认准企业官方渠道!