腾讯(tencent)招聘微信-高性能 - 视觉 AIGC 大模型推理优化工程师
招聘职位:
微信-高性能 - 视觉 AIGC 大模型推理优化工程师 搜索同类职位
岗位职责:
1. 针对 NPU、GPU 等异构硬件,探索 AIGC 大模型的最优推理方案,开发维护自研 AIGC 推理框架,将 XNet 推理引擎的优化能力赋能业务模型,支持微信视频号及其他业务的部署与持续优化
2. 深入理解 AIGC 大模型,以算法-系统 Co-design 的思路,探索与应用 Cache、稀疏、量化等 Training-free 或需要 Finetune 的优化方案,在保证业务指标的前提下,探索推理优化的边界
3. 持续跟进 AIGC 大模型的发展动态,探索并落地通用推理优化方案,支持新模型的高效上线,并提供模型优化的原子能力,支持算法侧与业务侧的高效接入与调试
岗位要求:
1. 对 CPU/GPU/NPU 等硬件体系结构有实践层面的理解,将其落地于算子性能与模型部署优化中
2. 对当前常见的开源 AIGC 模型和框架,如 HunyuanVideo、Wan、LTX、ComfyUI 等,有推理调优经验
3. 熟悉 Linux 系统与分布式环境部署调试,熟悉 Python 开发
4. 具有良好的沟通能力,能够与算法侧、业务侧顺畅协作
5. 愿意探索和尝试新技术,对 AI 落地应用与提效有热情与愿景
加分项:
1. 有国产 GPU / NPU 加速卡上 AIGC 大模型的部署优化经验,有 Triton、CUDA 等的算子开发与调优经验
2. 了解 Sglang Diffusion、VLLM Omni、LightX2V 等 AIGC 推理框架
3. 对自回归视频生成模型、扩散语言模型、视觉统一理解生成模型有优化经验,了解 AIGC 大模型的业界动态与趋势
4. 有 AI Agent 提效的工程化落地经验,能够支持个人与团队在 AIGC 大模型部署、Profiling、优化等全生命周期的提效工作
岗位介绍:
渴望为世界带来新意的人,早已对描绘未来的“热词”不陌生——人工智能、机器学习、数据科学等等。腾讯始终在业界前沿不断探索,积极布局,并为优秀的你提供无限广阔的舞台。我们坚信科技的不断革新,最终能带来美好的、撼动人心的改变。
1. 针对 NPU、GPU 等异构硬件,探索 AIGC 大模型的最优推理方案,开发维护自研 AIGC 推理框架,将 XNet 推理引擎的优化能力赋能业务模型,支持微信视频号及其他业务的部署与持续优化
2. 深入理解 AIGC 大模型,以算法-系统 Co-design 的思路,探索与应用 Cache、稀疏、量化等 Training-free 或需要 Finetune 的优化方案,在保证业务指标的前提下,探索推理优化的边界
3. 持续跟进 AIGC 大模型的发展动态,探索并落地通用推理优化方案,支持新模型的高效上线,并提供模型优化的原子能力,支持算法侧与业务侧的高效接入与调试
岗位要求:
1. 对 CPU/GPU/NPU 等硬件体系结构有实践层面的理解,将其落地于算子性能与模型部署优化中
2. 对当前常见的开源 AIGC 模型和框架,如 HunyuanVideo、Wan、LTX、ComfyUI 等,有推理调优经验
3. 熟悉 Linux 系统与分布式环境部署调试,熟悉 Python 开发
4. 具有良好的沟通能力,能够与算法侧、业务侧顺畅协作
5. 愿意探索和尝试新技术,对 AI 落地应用与提效有热情与愿景
加分项:
1. 有国产 GPU / NPU 加速卡上 AIGC 大模型的部署优化经验,有 Triton、CUDA 等的算子开发与调优经验
2. 了解 Sglang Diffusion、VLLM Omni、LightX2V 等 AIGC 推理框架
3. 对自回归视频生成模型、扩散语言模型、视觉统一理解生成模型有优化经验,了解 AIGC 大模型的业界动态与趋势
4. 有 AI Agent 提效的工程化落地经验,能够支持个人与团队在 AIGC 大模型部署、Profiling、优化等全生命周期的提效工作
岗位介绍:
渴望为世界带来新意的人,早已对描绘未来的“热词”不陌生——人工智能、机器学习、数据科学等等。腾讯始终在业界前沿不断探索,积极布局,并为优秀的你提供无限广阔的舞台。我们坚信科技的不断革新,最终能带来美好的、撼动人心的改变。
免责声明:
此信息由腾讯官网 (查看来源)审核并发布,我们转载该信息,仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“腾讯官网”负责。我们作为信息转载平台,不构成求职建议,不涉及任何职业中介服务,不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎,自行判断并承担相应风险,求职请认准企业官方渠道!