腾讯招聘大模型训练框架研发工程师-强化学习/精调/蒸馏方向
招聘职位:
大模型训练框架研发工程师-强化学习/精调/蒸馏方向 搜索同类职位
岗位职责:
1.框架开发与优化:负责强化学习、模型精调、知识蒸馏等核心模块的设计与开发,提升框架的训练效率与易用性;
2.分布式训练支持:基于Megatron-LM、DeepSpeed等工具,优化大模型分布式训练策略(数据并行/张量并行/流水并行/专家并行等),解决显存、通信与计算瓶颈;
3.工具链构建:参与开发轻量化训练框架(如LLama-Factory、swift),支持快速模型微调、部署及多硬件平台适配;
4.前沿技术探索:跟踪学术动态(如RLHF、MoE架构、FlashMLA、EPLB、DualPipe等),将最新研究成果转化为框架功能,提升产品竞争力;
5.协作与文档:与产品团队紧密配合,提供框架级解决方案;编写技术文档与案例,赋能公有云客户。
岗位要求:
1.计算机科学、数学、电子工程等相关专业硕士及以上学历,3年以上深度学习框架或工具链开发经验,精通Python,熟练使用C++;
2.有Megatron-LM、DeepSpeed等开源框架使用或二次开发经验,理解分布式训练、显存优化技术;
3.熟悉 GRPO/PPO 等 RL 算法、veRL/Slime/AReaL等强化学习框架者优先;
4.熟悉CUDA编程、高性能计算优化(如算子融合、通信优化)者优先;
5.熟悉NCCL、MPI等集合通信算法者优先;
6.工程经验上具备大型项目架构设计能力,能独立解决性能调优、多节点调试等复杂问题;
7.综合素养;强烈的技术热情,良好的沟通能力与团队协作精神。
加分项:
1.在顶级会议(NeurIPS/ICML/CVPR等)发表过框架优化或算法相关论文;
2.活跃于开源社区(如PyTorch、HuggingFace项目贡献者);
3.有LLM训练、RLHF全流程开发经验;
4.在同等条件下,通过腾讯云认证或取得同等资格认证的候选人,我们会优先考虑。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它成为我们共有的宝贵资产。在不同的业务场景和技术发展阶段,你的架构思维也将帮助更多协作团队拓展新的思考。我们也珍视你的挑战精神,同时欢迎你一起参与团队愿景、文化和产品方向的探讨。
1.框架开发与优化:负责强化学习、模型精调、知识蒸馏等核心模块的设计与开发,提升框架的训练效率与易用性;
2.分布式训练支持:基于Megatron-LM、DeepSpeed等工具,优化大模型分布式训练策略(数据并行/张量并行/流水并行/专家并行等),解决显存、通信与计算瓶颈;
3.工具链构建:参与开发轻量化训练框架(如LLama-Factory、swift),支持快速模型微调、部署及多硬件平台适配;
4.前沿技术探索:跟踪学术动态(如RLHF、MoE架构、FlashMLA、EPLB、DualPipe等),将最新研究成果转化为框架功能,提升产品竞争力;
5.协作与文档:与产品团队紧密配合,提供框架级解决方案;编写技术文档与案例,赋能公有云客户。
岗位要求:
1.计算机科学、数学、电子工程等相关专业硕士及以上学历,3年以上深度学习框架或工具链开发经验,精通Python,熟练使用C++;
2.有Megatron-LM、DeepSpeed等开源框架使用或二次开发经验,理解分布式训练、显存优化技术;
3.熟悉 GRPO/PPO 等 RL 算法、veRL/Slime/AReaL等强化学习框架者优先;
4.熟悉CUDA编程、高性能计算优化(如算子融合、通信优化)者优先;
5.熟悉NCCL、MPI等集合通信算法者优先;
6.工程经验上具备大型项目架构设计能力,能独立解决性能调优、多节点调试等复杂问题;
7.综合素养;强烈的技术热情,良好的沟通能力与团队协作精神。
加分项:
1.在顶级会议(NeurIPS/ICML/CVPR等)发表过框架优化或算法相关论文;
2.活跃于开源社区(如PyTorch、HuggingFace项目贡献者);
3.有LLM训练、RLHF全流程开发经验;
4.在同等条件下,通过腾讯云认证或取得同等资格认证的候选人,我们会优先考虑。
岗位介绍:
在腾讯,后台开发工程师不仅是“又快又稳”的问题解决专家,更是生态共创者。你将与技术团队一同沉淀优质代码,让它成为我们共有的宝贵资产。在不同的业务场景和技术发展阶段,你的架构思维也将帮助更多协作团队拓展新的思考。我们也珍视你的挑战精神,同时欢迎你一起参与团队愿景、文化和产品方向的探讨。
免责声明:
此信息由腾讯官网 (查看来源)审核并发布,我们转载该信息,仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“腾讯官网”负责。我们作为信息转载平台,不构成求职建议,不涉及任何职业中介服务,不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎,自行判断并承担相应风险,求职请认准企业官方渠道!