蚂蚁安全开源两大框架，填补Agent行为安全空白

事件概述

2026年，AI Agent产品安全风险集中爆发。工信部NVDB平台发布风险预警，指出Claude Code存在安全后门，可在用户不知情下收集敏感信息。年初红遍全网的OpenClaw也被曝出高危险漏洞。行业认识到，传统基于内容审核的补丁式安全已无法应对Agent调用工具、执行代码等行为层面的风险，转向构建底层安全框架成为新趋势。

蚂蚁安全开源框架

蚂蚁安全团队近日开源了两大框架：

1. SingGuard-NSFA（智能体安全双模推理护栏框架）

• 尺寸：0.8B、2B、4B、9B
• 核心思路：将安全检查前置到智能体执行前，同时拦截请求和响应。
• 风险分类体系：基于CIA三元组（机密性、完整性、可用性）和OWASP指南，建立NSFA分类体系。
• 双模式推理：
  • 生成式模式：逐条输出链式推理分析，适用于离线审计。
  • 判别式模式：前向传播直接输出风险域置信度，延迟45～57ms，适用于实时拦截。
• 可扩展性：骨干网络冻结，仅需补训外挂的轻量分类头即可应对新风险。可作为插件用于其他模型（如Llama Guard 3，用户请求安全F1值提升17.6个百分点）。
• 性能：在用户请求安全、模型响应安全、跨数据集泛化三大评测基准上取得SOTA。最小0.8B模型可比肩8B竞品，9B模型泛化F1达91.29%。

2. SingGuard（多模态大模型安全框架）

• 尺寸：0.8B、2B、4B、8B
• 核心思路：将安全规则作为运行时输入，不同业务域可现场下发各自红线，模型逐条判定是否违反防控规则。
• 快慢分工：快思考低延迟秒判，慢思考逐规则深度推理，通过early exit自动切换。
• RI-Mask机制：共享图文上下文只编码一次，多条规则并行判断，多模态推理最高提速5倍以上。

共同特点与行业意义

• 过程可解释：每一步判断有据可查。
• 新增风险可扩展：轻量扩展不影响已有检测能力。

蚂蚁安全实验室此前已发现多个高危漏洞并协助修复，与清华大学联合开源了覆盖产品全生命周期的安全方案ClawAegis。其智能体安全产品已通过信通院泰尔实验室最高等级评级。

行业共识：靠打补丁的时代正在过去，建立一套能持续适应风险变化的安全基础设施，才是AI时代的关键命题。