小红书(xiaohongshu)招聘AI安全测试工程师
招聘职位：
AI安全测试工程师 搜索同类职位
岗位职责：
本岗位负责AI产品、大模型、AI Agent系统的安全漏洞挖掘与风险自动化测评，同时将LLM、Agent等先进AI技术引入自动化测评和渗透测试工作流，提升安全测评和渗透测试的覆盖深度与测试效率。（如下2个方向任选其一都可以）
一、AI安全测评与渗透测试（Security for AI）
1）对AI产品、LLM API服务、RAG系统、AI Agent系统开展系统性和现网安全测试，覆盖黑盒、灰盒、白盒多种测试模式
2）设计并执行针对AI特有漏洞的渗透测试和自动化测评方案，重点测试Prompt注入、越狱攻击、数据窃取、错误推理利用、越权任务执行、Tool权限隔离等AI特有攻击向量
3）对AI应用开展蓝军测评，开发自动化测试工具模拟真实攻击者视角，评估AI产品面临的特有攻击场景（Prompt Injection、越狱攻击等）
4）开展AI模型数据安全测试，验证训练数据隐私保护、差分隐私机制、模型逆向攻击防护的有效性
5）设计AI安全自动化评测框架，支持Prompt攻击、工具滥用、权限绕过、数据泄露等场景的批量化测试与持续评估
二、AI赋能安全测评（AI for Security）
1）利用LLM、AI Agent等技术提升安全测试效率，构建智能化的Fuzzing框架、Prompt攻击自动生成器、自动化漏洞挖掘工具、AI辅助代码审计、AI辅助现网安全渗透等
2）基于大模型能力实现测试用例的自动化生成与扩充，提升测试覆盖率并降低人工编写测试用例的成本
3）建立并持续维护AI安全测评基准库（AI Benchmark），结合AI能力实现测试数据集的自动化更新与评估指标优化
4）跟踪分析业界最新的大模型安全对抗技术及新型安全风险，引入业界AI安全验证优秀实践，安全测试标准、方法、技术、工具和独立创新，持续提升团队的安全验证测试能力
任职要求：
1）本科及以上学历，信息安全、计算机、人工智能或相关专业；具备安全测试、渗透测试或AI安全研究经验，对AI安全测试技术有浓厚兴趣
2）深入了解AI系统架构，熟悉LLM、RAG、AI Agent工作原理及主流Agent框架
3）熟悉AI安全攻击技术，包括但不限于Prompt Injection、Jailbreak、对抗样本生成、模型逆向等
4）具备扎实的编程能力，能独立编写自动化安全测试脚本、Fuzzing工具及PoC利用代码
5）了解机器学习模型评估方法（精确率/召回率/AUC/F1等），能解读AI模型安全测评结果并输出量化分析报告
**加分项**
1）有大模型安全研究、AI Red Team项目、AI安全靶场构建经验，或在SRC/CVE中有AI相关漏洞挖掘记录
2）参与过CTF竞赛（特别是AI安全赛题方向）、开源安全工具贡献
☆对AI安全方向有持续研究兴趣，具备快速学习能力；具备传统安全、AI平台、AI应用开发等相关背景者也欢迎投递。
本岗位负责AI产品、大模型、AI Agent系统的安全漏洞挖掘与风险自动化测评，同时将LLM、Agent等先进AI技术引入自动化测评和渗透测试工作流，提升安全测评和渗透测试的覆盖深度与测试效率。（如下2个方向任选其一都可以）
一、AI安全测评与渗透测试（Security for AI）
1）对AI产品、LLM API服务、RAG系统、AI Agent系统开展系统性和现网安全测试，覆盖黑盒、灰盒、白盒多种测试模式
2）设计并执行针对AI特有漏洞的渗透测试和自动化测评方案，重点测试Prompt注入、越狱攻击、数据窃取、错误推理利用、越权任务执行、Tool权限隔离等AI特有攻击向量
3）对AI应用开展蓝军测评，开发自动化测试工具模拟真实攻击者视角，评估AI产品面临的特有攻击场景（Prompt Injection、越狱攻击等）
4）开展AI模型数据安全测试，验证训练数据隐私保护、差分隐私机制、模型逆向攻击防护的有效性
5）设计AI安全自动化评测框架，支持Prompt攻击、工具滥用、权限绕过、数据泄露等场景的批量化测试与持续评估
二、AI赋能安全测评（AI for Security）
1）利用LLM、AI Agent等技术提升安全测试效率，构建智能化的Fuzzing框架、Prompt攻击自动生成器、自动化漏洞挖掘工具、AI辅助代码审计、AI辅助现网安全渗透等
2）基于大模型能力实现测试用例的自动化生成与扩充，提升测试覆盖率并降低人工编写测试用例的成本
3）建立并持续维护AI安全测评基准库（AI Benchmark），结合AI能力实现测试数据集的自动化更新与评估指标优化
4）跟踪分析业界最新的大模型安全对抗技术及新型安全风险，引入业界AI安全验证优秀实践，安全测试标准、方法、技术、工具和独立创新，持续提升团队的安全验证测试能力
任职要求：
1）本科及以上学历，信息安全、计算机、人工智能或相关专业；具备安全测试、渗透测试或AI安全研究经验，对AI安全测试技术有浓厚兴趣
2）深入了解AI系统架构，熟悉LLM、RAG、AI Agent工作原理及主流Agent框架
3）熟悉AI安全攻击技术，包括但不限于Prompt Injection、Jailbreak、对抗样本生成、模型逆向等
4）具备扎实的编程能力，能独立编写自动化安全测试脚本、Fuzzing工具及PoC利用代码
5）了解机器学习模型评估方法（精确率/召回率/AUC/F1等），能解读AI模型安全测评结果并输出量化分析报告
**加分项**
1）有大模型安全研究、AI Red Team项目、AI安全靶场构建经验，或在SRC/CVE中有AI相关漏洞挖掘记录
2）参与过CTF竞赛（特别是AI安全赛题方向）、开源安全工具贡献
☆对AI安全方向有持续研究兴趣，具备快速学习能力；具备传统安全、AI平台、AI应用开发等相关背景者也欢迎投递。
免责声明：
此信息由小红书官网 (查看来源)审核并发布，我们转载该信息，仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“小红书官网”负责。我们作为信息转载平台，不构成求职建议，不涉及任何职业中介服务，不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎，自行判断并承担相应风险，求职请认准企业官方渠道！