小红书(xiaohongshu)招聘深度学习推理优化-异构计算方向
招聘职位：
深度学习推理优化-异构计算方向 搜索同类职位
岗位职责：
【部门介绍】引擎架构部提供小红书搜广推，CV和NLP业务的深度学习模型高性能推理服务。主导SOTA推理引擎的架构设计与核心模块开发，支撑搜广推业务在长序列建模、生成式推荐、Agent等前沿场景在GPU，XPU等异构计算部件上规模落地。
1. 参与推理引擎的架构设计与核心模块的开发。持续优化推理基础设施：特征DSL编译引擎、服务化推理框架，实现性能提升。
2. 优化搜广推、长序列、多模态、MoE等深度学习模型的推理效率，将各场景的推理性能优化到极致。
3. 针对GPU/NPU等异构计算芯片，探索片内多部件并行流水线等前沿技术，构建业界影响力。
任职要求：
1. 计算机及相关专业本科以上学历，3年以上高性能系统或AI Infra研发经验。
2. 精通C/C++/CUDA/AscendC/TopsCC，具备扎实的系统底层能力（内存、并发、网络）。
3. 深入理解至少一种主流训练/推理框架（XDL、TFRA、DeepRec、TorchRec、DeepSpeed、veRL、Megatron等），对其执行模型与性能瓶颈有源码级洞察。
4. 熟悉TensorFlow Serving、TensorRT、OpenXLA、ONNX Runtime等推理后端，具备大模型量化、编译优化与线上 A/B 调优实战经验。
5. 有GPU/NPU集群建设与性能调优经验，熟练使用CUDA、cuDNN、TensorRT等工具，能够定位并解决分布式环境中的复杂性能瓶颈。
【加分项】
• 主导或核心参与过万卡级以上AI推理平台的架构设计、实现和升级。
• 在TensorFlow、PyTorch、DeepSpeed等社区有持续代码贡献；或有高质量技术博客、GitHub Repo、顶会论文（OSDI、SOSP、MLSys、KDD、RecSys 等）。
【部门介绍】引擎架构部提供小红书搜广推，CV和NLP业务的深度学习模型高性能推理服务。主导SOTA推理引擎的架构设计与核心模块开发，支撑搜广推业务在长序列建模、生成式推荐、Agent等前沿场景在GPU，XPU等异构计算部件上规模落地。
1. 参与推理引擎的架构设计与核心模块的开发。持续优化推理基础设施：特征DSL编译引擎、服务化推理框架，实现性能提升。
2. 优化搜广推、长序列、多模态、MoE等深度学习模型的推理效率，将各场景的推理性能优化到极致。
3. 针对GPU/NPU等异构计算芯片，探索片内多部件并行流水线等前沿技术，构建业界影响力。
任职要求：
1. 计算机及相关专业本科以上学历，3年以上高性能系统或AI Infra研发经验。
2. 精通C/C++/CUDA/AscendC/TopsCC，具备扎实的系统底层能力（内存、并发、网络）。
3. 深入理解至少一种主流训练/推理框架（XDL、TFRA、DeepRec、TorchRec、DeepSpeed、veRL、Megatron等），对其执行模型与性能瓶颈有源码级洞察。
4. 熟悉TensorFlow Serving、TensorRT、OpenXLA、ONNX Runtime等推理后端，具备大模型量化、编译优化与线上 A/B 调优实战经验。
5. 有GPU/NPU集群建设与性能调优经验，熟练使用CUDA、cuDNN、TensorRT等工具，能够定位并解决分布式环境中的复杂性能瓶颈。
【加分项】
• 主导或核心参与过万卡级以上AI推理平台的架构设计、实现和升级。
• 在TensorFlow、PyTorch、DeepSpeed等社区有持续代码贡献；或有高质量技术博客、GitHub Repo、顶会论文（OSDI、SOSP、MLSys、KDD、RecSys 等）。
免责声明：
此信息由小红书官网 (查看来源)审核并发布，我们转载该信息，仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“小红书官网”负责。我们作为信息转载平台，不构成求职建议，不涉及任何职业中介服务，不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎，自行判断并承担相应风险，求职请认准企业官方渠道！
