工作职责:
1. AI安全护栏:针对Prompt Injection、越狱攻击(Jailbreak)、模型窃取等AI典型威胁,参与AI安全护栏的策略制定、开发与迭代;
2. Agent安全:针对AI Agent系统中的Tool Calling、MCP、长期记忆、权限控制、多Agent协作等高风险模块,参与运行时安全防护框架开发与迭代,保障AI系统在自治执行过程中的安全性;
3. AI数据安全:参与AI数据安全合规清洗、脱敏及隐私保护方案的讨论和开发,确保AI训练与推理过程数据不被投毒,隐私数据/价值数据不被泄露窃取;
4. AI赋能安全:参与安全垂直模型的数据合成增强和后训练,探索AI Agent在安全场景中的实际落地和应用;
5. AI辅助研发:将Vibe Coding工具深度融入日常开发——从需求拆解、方案设计、代码生成到 Code Review,熟练使用 AI 作为开发伙伴,高效交付高质量代码;
6. 技术洞察:跟踪分享AI安全与AI for Security领域前沿技术,积极响应变化,在AI应用中快速穿刺落地验证。
任职资格:
1. 学历背景:本科及以上学历,计算机、信息安全、人工智能或相关专业。
2. 技术栈:熟悉LLM、RAG、AI Agent工作原理及主流Agent框架,了解OWASP LLM Top 10、MITRE ATLAS等AI安全框架 ;
3. AI 工具使用:有使用 GitHub Copilot、Cursor、Claude 等 AI 编程工具的实际经验,能够将 AI 有效融入开发流程,而非仅停留在概念层面;
4. 综合素质:逻辑清晰,责任心强,热衷钻研技术底层原理,具备良好的团队沟通能力。
加分项:
- 有大型互联网公司/网安公司AI安全加固或Guardrails项目实习经验;
- 有AI安全领域CCF-A顶会、AI红队(Red Team)、AI安全开源项目经历。