腾讯(tencent)招聘Omni模型推理优化工程师
招聘职位：
Omni模型推理优化工程师 搜索同类职位
岗位职责：
1.负责构建全模态端到端推理的后台架构，并推进性能优化和稳定性提升；
2.针对Pytorch/CUDA相关GPU计算任务，结合编译优化、并行计算优化、算子优化等，持续提升推理效率。
岗位要求：
1.熟练掌握C/C++或Python，有CUDA开发经验，了解TensorRT/SGLang/vLLM等推理框架，在vLLM/vLLM-Omni/SGLang等开源推理框架改造优化方面有经验者优先；
2.熟悉计算机体系结构，对GPU、CPU等有比较深刻的理解；
3.熟悉Transformers/DiT等主流模型原理，有相关训练或推理经验者优先；
4.良好的团队协作能力，对技术有热情，有良好的动手实现能力；在推理框架开源社区有贡献者优先。
岗位介绍：
渴望为世界带来新意的人，早已对描绘未来的“热词”不陌生——人工智能、机器学习、数据科学等等。腾讯始终在业界前沿不断探索，积极布局，并为优秀的你提供无限广阔的舞台。我们坚信科技的不断革新，最终能带来美好的、撼动人心的改变。
1.负责构建全模态端到端推理的后台架构，并推进性能优化和稳定性提升；
2.针对Pytorch/CUDA相关GPU计算任务，结合编译优化、并行计算优化、算子优化等，持续提升推理效率。
岗位要求：
1.熟练掌握C/C++或Python，有CUDA开发经验，了解TensorRT/SGLang/vLLM等推理框架，在vLLM/vLLM-Omni/SGLang等开源推理框架改造优化方面有经验者优先；
2.熟悉计算机体系结构，对GPU、CPU等有比较深刻的理解；
3.熟悉Transformers/DiT等主流模型原理，有相关训练或推理经验者优先；
4.良好的团队协作能力，对技术有热情，有良好的动手实现能力；在推理框架开源社区有贡献者优先。
岗位介绍：
渴望为世界带来新意的人，早已对描绘未来的“热词”不陌生——人工智能、机器学习、数据科学等等。腾讯始终在业界前沿不断探索，积极布局，并为优秀的你提供无限广阔的舞台。我们坚信科技的不断革新，最终能带来美好的、撼动人心的改变。
免责声明：
此信息由腾讯官网 (查看来源)审核并发布，我们转载该信息，仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“腾讯官网”负责。我们作为信息转载平台，不构成求职建议，不涉及任何职业中介服务，不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎，自行判断并承担相应风险，求职请认准企业官方渠道！