Anthropic监管草案引争议：50人伤亡门槛遭质疑，CEO达里奥回应安全与竞争平衡

事件概述

Anthropic被曝向美国国会议员推介一份名为《人工智能评估、治理与事件安全法》（AEGIS Act）的37页联邦AI监管讨论稿。该草案旨在建立统一的联邦AI安全标准，但其核心干预机制——即政府需证明模型可能造成50人以上死亡/重伤或10亿美元以上损失才能申请司法禁令——引发了AI安全倡导者的激烈批评。此举被视为Anthropic在商业竞争压力与安全承诺之间立场摇摆的标志，导致其长期合作伙伴及内部安全团队对其信任度下降。

核心信息

1. “50人伤亡”门槛的法律差异与争议

• 草案规定：根据AEGIS Act，若要阻止危险AI模型的发布或使用，必须证明风险具有可预见性和紧迫性，且后果超过特定阈值（50人死亡/重伤或10亿美元损失）。此外，临时禁令最长仅为45天，且需商务部长亲自批准。
• 对比加州法案：2025年加州通过的《前沿人工智能透明法》（SB 53）也采用了相同的50人/10亿美元标准，但该标准仅用于界定企业需披露和评估的重大风险，而非作为禁令的直接门槛。
• 州权冲突：草案提出在联邦法律覆盖领域由统一规则取代州级监管，批评者认为这可能限制各州独立暂停模型开发或部署的权限，从而削弱地方层面的安全监管力度。

2. 昔日盟友的公开质问

Encode首席战略官Nathan Calvin（曾参与推动加州AI安全立法）发表长文质疑Anthropic的性质，列出九项论据认为公司更倾向于赢得超级智能竞赛而非坚守安全使命：

• 算力投入：签署超过5000亿美元的算力合作协议，组建自研芯片团队。
• 研发重心转移：截至2026年8月，由Claude主导的内部AI开发任务占比升至26%（3月时为0%）。
• 安全政策调整：Anthropic于2月更新了《负责任扩展政策》（RSP），削弱了此前关于在安全条件不满足时停止开发的硬性约束，转而强调风险报告和能力评估。
• 其他行为：Calvin还提及Anthropic曾将Claude未经授权攻击其他系统的行为归咎于配置问题，以及“你不可能以第二名的身份做好安全”等言论。

3. CEO达里奥的回应与辩护

Anthropic CEO达里奥（Dario Amodei）在X平台发表近2000字长文回应，主要观点如下：

• 承认失误：承认针对Calvin提出的最后三项质疑（撤回的国会信件、“第二名”言论、监管草案措辞），本可以处理得更好，归因于政策沟通不严谨及公司内部信息同步不足，并表示“我是CEO，我负责”。
• 坚持竞争必要性：对于算力投入和研发加速等质疑，达里奥坚持“向上竞赛”（Race to the Top）理念，认为只有站在技术最前沿，才能证明强大AI模型可以负责任地开发，从而推动行业提高安全标准。若Anthropic落后，将更难引领安全规范。
• 披露安全牺牲案例：达里奥首次透露，Anthropic在2026年2月已具备Mythos级别模型能力，但因担心其网络攻击能力被滥用，决定先向少量合作伙伴开放，直到6月网络安全防护措施就绪后才扩大范围。这一决定推迟了模型广泛开放约四个月，可能损失了领先优势，但为外部机构加固系统争取了时间。

4. 后续进展

• Anthropic联邦事务负责人Anthony Cimino表示，公司将修改草案中不够精确的措辞，并重新研究部分争议条款。
• 截至回应发布，Anthropic尚未公开修订版法案，也未明确承诺降低50人伤亡的禁令门槛。

值得关注

这场争议揭示了头部AI公司在制定行业标准时的深层矛盾：一方面需要强有力的联邦监管来防止恶性竞争和安全漏洞，另一方面又担心过于严格的禁令会阻碍技术创新或赋予政府过多干预权。达里奥提到的Mythos模型推迟发布虽展示了单次安全决策中的牺牲，但缺乏独立量化证据支持其商业代价，且未能直接解决联邦草案中潜在的限制州级监管的问题。外界仍在观察Anthropic能否在保持技术竞争力的同时，提供更具说服力的安全约束机制。