腾讯(tencent)招聘微信安全-大模型安全工程师
招聘职位:
微信安全-大模型安全工程师 搜索同类职位
岗位职责:
1.安全策略研发与优化:参与大模型内容安全风控策略的研发落地,负责风险识别规则的配置与调优,持续跟踪策略效果并推动迭代优化;
2.安全技术研究与应用:研究大模型及智能体的安全风险,针对提示词注入、数据投毒等攻击手法开展分析与防御方案设计,推动研究成果在实际场景中落地;
3.红队评测与安全评估:参与自动化红队评测体系的建设,开发安全评估工具与测试用例,对模型安全能力进行持续评估与回归测试;
4.安全策略全链路运营:通过数据分析驱动安全策略优化,监控线上策略表现,完成策略从实验验证到灰度、全量上线的运营闭环;
5.安全方案落地支持:参与大模型安全方案的落地实施,包括Agent调用链路安全检测、模型水印与溯源技术验证等;
6.前沿跟踪与知识沉淀:持续关注大模型安全领域的技术动态与合规政策变化,参与技术调研与方案评估。
岗位要求:
1.计算机科学、人工智能、信息安全、网络空间安全、数学等相关专业本科及以上学历;
2.2年以上互联网内容安全、AI安全或风控策略相关经验,了解AIGC相关风险(如幻觉、合规、滥用、对抗攻击等);
3.了解大语言模型关键技术(SFT、DPO、RAG、Agent等),有模型训练或微调经验优先;了解大模型安全攻防技术,包括提示词注入防御、安全对齐、红队测试、对抗样本等方向;具备独立完成实验验证与工程化开发的能力;
4.具备良好的逻辑思维与数据分析能力,自驱力强,善于学习新技术,能够高效协作推动方案落地。
1.安全策略研发与优化:参与大模型内容安全风控策略的研发落地,负责风险识别规则的配置与调优,持续跟踪策略效果并推动迭代优化;
2.安全技术研究与应用:研究大模型及智能体的安全风险,针对提示词注入、数据投毒等攻击手法开展分析与防御方案设计,推动研究成果在实际场景中落地;
3.红队评测与安全评估:参与自动化红队评测体系的建设,开发安全评估工具与测试用例,对模型安全能力进行持续评估与回归测试;
4.安全策略全链路运营:通过数据分析驱动安全策略优化,监控线上策略表现,完成策略从实验验证到灰度、全量上线的运营闭环;
5.安全方案落地支持:参与大模型安全方案的落地实施,包括Agent调用链路安全检测、模型水印与溯源技术验证等;
6.前沿跟踪与知识沉淀:持续关注大模型安全领域的技术动态与合规政策变化,参与技术调研与方案评估。
岗位要求:
1.计算机科学、人工智能、信息安全、网络空间安全、数学等相关专业本科及以上学历;
2.2年以上互联网内容安全、AI安全或风控策略相关经验,了解AIGC相关风险(如幻觉、合规、滥用、对抗攻击等);
3.了解大语言模型关键技术(SFT、DPO、RAG、Agent等),有模型训练或微调经验优先;了解大模型安全攻防技术,包括提示词注入防御、安全对齐、红队测试、对抗样本等方向;具备独立完成实验验证与工程化开发的能力;
4.具备良好的逻辑思维与数据分析能力,自驱力强,善于学习新技术,能够高效协作推动方案落地。
免责声明:
此信息由腾讯官网 (查看来源)审核并发布,我们转载该信息,仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“腾讯官网”负责。我们作为信息转载平台,不构成求职建议,不涉及任何职业中介服务,不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎,自行判断并承担相应风险,求职请认准企业官方渠道!