小红书(xiaohongshu)招聘生成式大模型安全策略产品-T&S
招聘职位：
生成式大模型安全策略产品-T&S 搜索同类职位
岗位职责：
职位概述：
作为小红书Trust-and-Safety团队核心成员，负责制定生成式大模型相关安全防护和内容治理策略，保障生成式应用的安全合规性，优化AIGC内容在平台上的检测和标识。
主要职责：
1.负责生成式大模型安全防护产品策略的规划、设计和迭代，包括Safety Alignment、发prompt injection、反model jailbreak、风险生成内容过滤和实时检测机制。
2.负责设计多模态 AIGC 安全检测体系（文本/图像/视频），覆盖违规内容识别、伪造判定、真实度评估、深度伪造检测、模型生成技术追踪等方向。
3.持续跟踪和分析当前生成式AI技术的发展趋势，收集相关信息，并推动防御手段的更新和升级，以确保系统的安全性。
4.协同算法与研发团队，推动AIGC检测技术落地，优化防护效果和性能指标。
5.监控大模型安全态势，分析潜在风险，制定预防性和应急响应策略。
6.跨部门协调（如GA、安全运营、法务、数据），确保策略与业务目标对齐，并推动规模化应用。
7.跟踪行业法规和最佳实践，保障产品符合国内外安全与伦理标准。
任职要求：
1.本科及以上学历，计算机科学、人工智能、信息安全或相关领域；2年以上互联网产品经验，有AI安全、内容治理或风险控制相关经验。
2.精通生成式AI技术（如LLM、扩散模型）及其安全挑战，熟悉常见攻击和防护方案，精通AIGC识别基本方法（Watermark、C2PA、检测模型等）。
3.具备强产品思维和数据分析能力，能通过指标驱动决策；有从0到1构建安全产品的成功案例者优先。
4.出色的跨团队沟通和项目管理能力，能在快节奏环境中统筹复杂项目。
5.对社交平台生态有深刻理解，责任心强，具备战略视野和风险敏锐度。
6.有大型UGC平台治理或AIGC检测实战经验；熟悉小红书业务模式者优先。
7.发表过相关技术论文或参与过行业标准制定者优先。
职位概述：
作为小红书Trust-and-Safety团队核心成员，负责制定生成式大模型相关安全防护和内容治理策略，保障生成式应用的安全合规性，优化AIGC内容在平台上的检测和标识。
主要职责：
1.负责生成式大模型安全防护产品策略的规划、设计和迭代，包括Safety Alignment、发prompt injection、反model jailbreak、风险生成内容过滤和实时检测机制。
2.负责设计多模态 AIGC 安全检测体系（文本/图像/视频），覆盖违规内容识别、伪造判定、真实度评估、深度伪造检测、模型生成技术追踪等方向。
3.持续跟踪和分析当前生成式AI技术的发展趋势，收集相关信息，并推动防御手段的更新和升级，以确保系统的安全性。
4.协同算法与研发团队，推动AIGC检测技术落地，优化防护效果和性能指标。
5.监控大模型安全态势，分析潜在风险，制定预防性和应急响应策略。
6.跨部门协调（如GA、安全运营、法务、数据），确保策略与业务目标对齐，并推动规模化应用。
7.跟踪行业法规和最佳实践，保障产品符合国内外安全与伦理标准。
任职要求：
1.本科及以上学历，计算机科学、人工智能、信息安全或相关领域；2年以上互联网产品经验，有AI安全、内容治理或风险控制相关经验。
2.精通生成式AI技术（如LLM、扩散模型）及其安全挑战，熟悉常见攻击和防护方案，精通AIGC识别基本方法（Watermark、C2PA、检测模型等）。
3.具备强产品思维和数据分析能力，能通过指标驱动决策；有从0到1构建安全产品的成功案例者优先。
4.出色的跨团队沟通和项目管理能力，能在快节奏环境中统筹复杂项目。
5.对社交平台生态有深刻理解，责任心强，具备战略视野和风险敏锐度。
6.有大型UGC平台治理或AIGC检测实战经验；熟悉小红书业务模式者优先。
7.发表过相关技术论文或参与过行业标准制定者优先。
免责声明：
此信息由小红书官网 (查看来源)审核并发布，我们转载该信息，仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“小红书官网”负责。我们作为信息转载平台，不构成求职建议，不涉及任何职业中介服务，不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎，自行判断并承担相应风险，求职请认准企业官方渠道！