Anthropic推动AI监管新草案：设极高叫停门槛，引入独立评估机制

事件概述

Anthropic近期向美国国会议员介绍了一份前沿AI安全监管法案草案。尽管此前该公司曾警告AI失控风险并呼吁暂停研发，但此次行动表明其正试图通过立法手段主动塑造行业监管规则。Anthropic发言人表示，该法案体现了其在《高级人工智能框架》中提出的建议，自今年6月以来一直在推动联邦和州层面采纳这些政策。

核心信息

1. 设立极高的政府叫停门槛
法案草案规定，只有当某个模型存在“可预见且迫在眉睫的风险”，且满足以下任一条件时，政府才可阻止其发布或使用：

• 可能造成超过10亿美元的损失；
• 导致50人以上死亡或严重受伤；
• 风险源于生物武器的制造/发布、模型规避开发者控制措施，或进行网络攻击。

值得注意的是，措辞与加利福尼亚州的SB 53法案一致。目前披露的AI安全事故中，尚无事件达到上述大规模伤亡或巨额损失的阈值。

• 资质要求：评估机构须在美国商务部注册，可由实验室付费，但报酬不得与评估结果挂钩。
• 报告流程：若认定存在“迫在眉睫风险”，须在72小时内向商务部报告。
• 裁定机制：商务部认定风险后，需请求法官阻止模型发布。法案明确禁止其他部门、机构或官员暂停模型开发、部署或内部使用，最终裁定权归哥伦比亚特区联邦地区法院法官所有。

3. 统一联邦监管，排除州级限制
草案旨在排除部分州级AI法律中关于风险披露、第三方评估和重大事故报告的要求，规定仅商务部有权对前沿AI采取行动，以统一联邦层面的监管标准。

4. 企业先行实践“嵌入式评估”
Anthropic CEO达里奥·阿莫迪此前提出的三步方案中包含派遣“嵌入式评估员”。目前公司已付诸行动：非营利组织METR已获得Anthropic的员工级访问权限，进驻Claude模型开发团队办公室，并使用其内部硬件系统，以评估模型风险。

值得关注

该法案还要求前沿AI实验室制定安全框架、针对新模型发布透明度报告、建立举报人保护机制，并向商务部报告重大安全事件。这一系列举措反映了头部AI企业在面对监管压力时，倾向于通过建立高标准、高门槛的自我约束机制来主导规则制定的策略。