小红书(xiaohongshu)招聘生成式大模型安全防护算法专家
招聘职位：
生成式大模型安全防护算法专家 搜索同类职位
岗位职责：
职位概述
负责构建小红书AIGC安全检测与防护的核心算法体系，研发先进的生成式内容识别与风险管控技术，保障平台内容安全与用户体验。
主要职责
1.构建生成式大模型安全防护体系，包括但不限Safety Alignment、恶意提示词检测、输出内容过滤、滥用行为识别等，搭建完整防护链路
2.研发AIGC检测算法，覆盖文本、图像、视频等多模态内容识别，搭建发布主动校验、传播被动检测和处置的完整AIGC识别标识链路
3.通过agentic等技术，设计生成式大模型背靠背攻防演练方案，形成数据飞轮
4.跟踪前沿生成式AI技术演进，预判新型安全风险并研发应对方案，优化检测算法性能和推理成本
5.协同产品、运营、法务、GA团队，保障新产品功能的安全合规与用户体验
任职要求：
任职要求
1.计算机、人工智能相关专业硕士及以上学历，3年以上AI安全、内容风控或相关算法领域经验
2.具备以下至少一个领域经验：AIGC检测与识别技术、大模型安全与对齐研究、多模态内容理解与风控、对抗样本与攻防技术
3.熟悉大模型后训练 & agentic技术，熟悉生成式模型（扩散模型、LLM等）技术原理，有大规模数据处理经验
4.参与过大型互联网平台内容安全体系建设者优先，有算法落地的工程化经验者优先
5.在顶级会议发表相关论文或专利者优先
职位概述
负责构建小红书AIGC安全检测与防护的核心算法体系，研发先进的生成式内容识别与风险管控技术，保障平台内容安全与用户体验。
主要职责
1.构建生成式大模型安全防护体系，包括但不限Safety Alignment、恶意提示词检测、输出内容过滤、滥用行为识别等，搭建完整防护链路
2.研发AIGC检测算法，覆盖文本、图像、视频等多模态内容识别，搭建发布主动校验、传播被动检测和处置的完整AIGC识别标识链路
3.通过agentic等技术，设计生成式大模型背靠背攻防演练方案，形成数据飞轮
4.跟踪前沿生成式AI技术演进，预判新型安全风险并研发应对方案，优化检测算法性能和推理成本
5.协同产品、运营、法务、GA团队，保障新产品功能的安全合规与用户体验
任职要求：
任职要求
1.计算机、人工智能相关专业硕士及以上学历，3年以上AI安全、内容风控或相关算法领域经验
2.具备以下至少一个领域经验：AIGC检测与识别技术、大模型安全与对齐研究、多模态内容理解与风控、对抗样本与攻防技术
3.熟悉大模型后训练 & agentic技术，熟悉生成式模型（扩散模型、LLM等）技术原理，有大规模数据处理经验
4.参与过大型互联网平台内容安全体系建设者优先，有算法落地的工程化经验者优先
5.在顶级会议发表相关论文或专利者优先
免责声明：
此信息由小红书官网 (查看来源)审核并发布，我们转载该信息，仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“小红书官网”负责。我们作为信息转载平台，不构成求职建议，不涉及任何职业中介服务，不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎，自行判断并承担相应风险，求职请认准企业官方渠道！