小红书(xiaohongshu)招聘AI Safety算法专家-T&S
招聘职位：
AI Safety算法专家-T&S 搜索同类职位
岗位职责：
职位概述：负责构建小红书AI内容安全和AI应用安全的核心算法体系，覆盖从模型训练、服务上线到内容生成与传播的全链路风险管控，研发先进的生成式内容识别与防护技术，保障平台内容安全与用户体验。
主要职责：
1、构建AI全链路安全防护体系，覆盖训练数据安全、模型安全对齐、服务部署安全、应用场景伦理治理等阶段，识别并应对各环节风险源，落地端到端控制措施；
2、研发全模态AIGC检测算法，覆盖图像静态识别、视频动态内容理解、人物深伪检测、工业创作痕迹检测等方向，实现发布主动校验、存量彻底清扫的完整闭环；
3、构建大模型应用安全防护机制，包括提示词检测、输入输出审核过滤、检索增强安全、滥用行为识别与处置，保障模型在内容生成与用户交互场景下的安全可控；
4、通过数据飞轮与闭环优化机制，持续提升算法性能：关注识别召回准确率、系统资源消耗、高并发承载能力等核心指标，推动架构优化；
5、跟踪生成式AI前沿技术演进（扩散模型、LLM、多模态大模型等），预判新型安全风险，设计攻防演练方案，形成数据与模型的持续迭代飞轮；
6、协同产品、运营、法务、GA团队，保障新产品功能的安全合规，推动平台AIGC内容治理体验优化。
任职要求：
1、计算机、人工智能相关专业硕士及以上学历，3年以上AI安全、内容风控或相关算法领域经验；
2、具备以下至少一个领域的深入经验：AIGC多模态检测与识别（图像、视频、深伪、溯源）、大模型安全与对齐（Safety Alignment、RLHF、防灾难性遗忘）、大模型应用安全（Prompt攻防、RAG安全、Agent安全）、AI内容治理体系建设（召回/精排链路、质量闭环优化）、熟悉大模型训练与后训练技术（SFT、RLHF、增量训练）&了解扩散模型、LLM等生成式模型原理，有大规模数据处理与标注体系建设经验、具备系统工程化落地能力，熟悉算法服务化、配置中心化、自动化运维及可观测性建设、参与过大型互联网平台内容安全或AI治理体系建设者优先；有实际攻防演练或红蓝对抗经验者优先、在顶级会议（NeurIPS、CVPR、ACL、ICLR等）发表相关论文或持有专利者优先。
职位概述：负责构建小红书AI内容安全和AI应用安全的核心算法体系，覆盖从模型训练、服务上线到内容生成与传播的全链路风险管控，研发先进的生成式内容识别与防护技术，保障平台内容安全与用户体验。
主要职责：
1、构建AI全链路安全防护体系，覆盖训练数据安全、模型安全对齐、服务部署安全、应用场景伦理治理等阶段，识别并应对各环节风险源，落地端到端控制措施；
2、研发全模态AIGC检测算法，覆盖图像静态识别、视频动态内容理解、人物深伪检测、工业创作痕迹检测等方向，实现发布主动校验、存量彻底清扫的完整闭环；
3、构建大模型应用安全防护机制，包括提示词检测、输入输出审核过滤、检索增强安全、滥用行为识别与处置，保障模型在内容生成与用户交互场景下的安全可控；
4、通过数据飞轮与闭环优化机制，持续提升算法性能：关注识别召回准确率、系统资源消耗、高并发承载能力等核心指标，推动架构优化；
5、跟踪生成式AI前沿技术演进（扩散模型、LLM、多模态大模型等），预判新型安全风险，设计攻防演练方案，形成数据与模型的持续迭代飞轮；
6、协同产品、运营、法务、GA团队，保障新产品功能的安全合规，推动平台AIGC内容治理体验优化。
任职要求：
1、计算机、人工智能相关专业硕士及以上学历，3年以上AI安全、内容风控或相关算法领域经验；
2、具备以下至少一个领域的深入经验：AIGC多模态检测与识别（图像、视频、深伪、溯源）、大模型安全与对齐（Safety Alignment、RLHF、防灾难性遗忘）、大模型应用安全（Prompt攻防、RAG安全、Agent安全）、AI内容治理体系建设（召回/精排链路、质量闭环优化）、熟悉大模型训练与后训练技术（SFT、RLHF、增量训练）&了解扩散模型、LLM等生成式模型原理，有大规模数据处理与标注体系建设经验、具备系统工程化落地能力，熟悉算法服务化、配置中心化、自动化运维及可观测性建设、参与过大型互联网平台内容安全或AI治理体系建设者优先；有实际攻防演练或红蓝对抗经验者优先、在顶级会议（NeurIPS、CVPR、ACL、ICLR等）发表相关论文或持有专利者优先。
免责声明：
此信息由小红书官网 (查看来源)审核并发布，我们转载该信息，仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“小红书官网”负责。我们作为信息转载平台，不构成求职建议，不涉及任何职业中介服务，不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎，自行判断并承担相应风险，求职请认准企业官方渠道！