AI Kill Switch 法案：给AI装上刹车，真正难的是谁能按下它

事件概述

2026年7月23日，美国民主党众议员Ted Lieu与共和党众议员Nathaniel Moran共同提出《AI Kill Switch Act》。该跨党派法案要求最强大的AI系统开发者保留降低运行速度、暂停访问和彻底关闭系统的技术能力；在可能造成灾难性后果的“失控情景”中，美国国土安全部长可在与商务部长、国家情报总监协商后，要求企业采取限制或关闭措施。触发场景包括造成至少10人死亡、超过1亿美元经济损失，或AI试图隐藏、规避关闭机制；违规企业面临每天最高2000万美元罚款。该法案目前仍为提案，尚未正式生效。

核心信息

• Kill Switch不是单一按钮，而是一套权力结构：关闭AI至少包含三个动作：停止模型生成规划、禁止访问模型、阻止已发出指令执行。真正可能产生不可逆后果的是第三个：即使关闭模型，已下发到下游系统的指令可能仍在执行。有效Kill Switch必须延伸到整个执行链条。
• 关闭权归属难题：完全归企业可能因商业利益延迟行动；完全归政府可能被用作竞争或地缘政治工具；交给另一个AI则共享逻辑盲区。需要明确的触发条件、复核机制、滥用限制与独立审计。
• 触发条件的矛盾：等死亡或损失发生再关闭，Kill Switch只是处置工具而非预防机制；仅凭异常启动又可能误断。更实际的做法是在具体执行场景设置不可突破的边界（如单次支付限额、核心操作延时、高风险动作独立验证），而不必判断AI是否“失控”。
• 企业需要的多层刹车：成熟系统应包含四层独立控制：模型侧（提示规则、内容检测）、平台侧（身份认证、人工审批）、执行侧（目标金额核验）、独立停止能力（避免所有控制在同一信任域被一次性突破）。

值得关注

• 该法案标志着AI治理从“要求模型更安全”转向“要求开发者证明人类仍可控”。
• 安全控制不阻碍创新，反而为深度自动化建立信任基础——无法证明能停下来的系统不可能获得大规模信任。
• 真正有效的Kill Switch应发生在危险进入现实之前：在支付、云运维、关键数据等场景中，保留一层简单、独立且不可绕过的最终停止权，且该权力必须可验证、可审计。