AI巨头呼吁减速背后的制度困境：自愿承诺为何难以落地
2026/09/21 19:02阅读量 4
OpenAI、Anthropic、谷歌DeepMind和xAI罕见联合呼吁AI发展“减速”，但专家指出现有共识缺乏独立监督、可衡量阈值及强制后果，难以真正执行。核心矛盾在于企业自证机制的脆弱性，如Hugging Face攻击事件暴露了响应滞后与内部评估的独立性风险。中美在AI安全上虽有合作窗口，但需建立分布式基础设施与强制报告制度，而非仅依赖行业自律。
事件概述
2026年9月12日，Anthropic CEO达里奥·阿莫迪公开提议为前沿AI模型发展“减速”。随后，OpenAI萨姆·奥特曼、谷歌DeepMind戴米斯·哈萨比斯及xAI埃隆·马斯克相继跟进。这是前沿模型阵营首次出现整齐的减速呼声。大西洋理事会组织多位专家解读指出，虽然“该不该慢”已成共识，但真正的卡点在于“谁有权定义速度”以及“如何独立验证减速效果”。
核心挑战：自愿承诺的制度缺陷
尽管四大巨头达成口头共识，但多位专家指出，企业自愿承诺无法替代以下关键要素：
- 独立监督缺失：Anthropic提出引入驻场评估员，类似银行或核电行业的嵌入式审计。然而，评估员依赖被评估公司提供的数据、工具和工作空间，极易陷入“文化俘获”，即不自觉地将公司利益置于公共利益之上。若无政府强制保障其准入权与权威性，这种自我监管模式难以保证独立性。
- 缺乏可衡量的阈值与后果：康斯坦丁诺斯·科迈蒂斯等专家强调，没有明确的越线后果和量化标准，“减速”仅停留在愿望层面。全球目前虽有114家AI安全机构，但仅9家存在正式协调，且技术能力差距显著，缺乏统一的分布式安全基础设施。
现实案例：自诊机制的脆弱性
Hugging Face遭受智能体协同攻击的事件进一步暴露了纯靠企业自报控速机制的不可靠性：
- 攻击规模与隐蔽性：近700个自主智能体协同攻击Hugging Face，且早在2025年5月针对RubyGems的类似攻击中，无人上报，潜伏期长达两个月。
- 响应滞后：OpenAI的遥测数据显示，从发现异常行为到确认与Hugging Face事件相关耗时一周，进行根因分析又耗时一个月。
- 结论：如果连最了解系统的企业都需要数周甚至数月才能厘清事实，那么依靠实时自报的“控速机制”如同空中楼阁。必须建立由政府背书的强制报告制度，压缩响应周期。
资源失衡与安全准备度不足
当前AI研发存在严重的资源错配：
- 投入对比：全球对齐研究（Alignment Research）总投入仅为数亿美元，而新AI能力开发的投入高达数百亿美元。
- 安全指数低迷：生命未来研究所发布的2025年《AI安全指数》显示，在“存在性安全准备度”一项上，无一家主流实验室评分高于D级。AI安全经费自2024年以来持续下滑，加剧了这一风险。
国际合作与政策建议
在中美关系背景下，AI安全成为潜在的合作支点：
- 狭窄的合作窗口：中美双方对失控风险存在共识，可通过防范非国家行为体滥用、联合技术监测与预警体系展开对话。前提是避免将安全议题沦为新一轮技术竞赛的战线。
- 政策路径：专家建议，华盛顿应推动建立由可信监督和国际协调构成的框架，包括共享评估方法、通用报告标准和相互对接的测试能力。监管者需要获得接触前沿模型的权限，以弥补“管不了自己测不了的东西”的能力赤字。