开放安全AI联盟成立：英伟达联合多家行业领袖共建AI安全开源工具

事件概述

2026年7月27日，英伟达与Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux基金会、微软、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab、TrendAI等多家机构共同宣布成立开放安全AI联盟（Open Secure AI Alliance）。联盟核心使命是开发并共享开放技术、工具和流程，以保护AI时代的软件和智能体安全。

核心信息

• 背景与必要性：开源软件是网络安全三大受益者之一。联盟将延续Linux基金会Akrites倡议和OpenSSF社区工作，利用开放技术修复和披露漏洞。近期Hugging Face安全事件（使用开源GLM 5.2模型分析17000多次操作以抵御入侵）证明，防御者无法在封闭系统中快速检查、适配和运行高级AI时，响应能力会受到严重制约。
• 开放模型在安全中的关键作用：开放模型和开放工具能实现防御能力民主化，提高透明度，支持数据保护，并与前沿闭源模型互补。虽然开放模型可能被滥用，但封闭系统同样存在风险，正确做法是为开放模型配套强防护、明确规则和快速修复机制。
• 联盟成员及贡献：
  • 英伟达贡献了开源NVIDIA Labs Object-Oriented Agent（NOOA）项目（GitHub已发布），用于改进智能体框架的可测试性、可追溯性和治理。
  • HPE贡献SPIFFE/SPIRE零信任身份框架标准。
  • Hugging Face将Safetensors（安全模型权重存储格式，防止远程代码执行）贡献给PyTorch基金会。
  • IBM与Red Hat的Lightwell项目通过数字签名补丁扩展开源供应链安全。
  • 微软的MDASH多模型智能体扫描框架可协调多个AI智能体发现、辩论并证明可利用漏洞。
  • SpaceXAI开源了Grok Build终端AI编码智能体，并计划开源Grok系列模型权重。
• 对政策制定者的呼吁：联盟呼吁政策制定者将开放模型、框架和安全工具视为防御资产而非负担，避免对开放前沿AI系统实施一刀切限制，而应投资共享开放防御基础设施（如数据集、评估框架、攻击模拟器和红队工具）。

值得关注

联盟强调AI智能体的安全不仅仅取决于模型权重的开放与否，而是整个智能体栈（身份、权限、框架、护栏、日志和评估）的安全。联盟旨在通过开源协作，确保防御者能控制、审计并部署前沿防御工具，避免单一故障点，同时维护竞争力和技术领导力。