AI治理新视角：从限制“超级智能”转向管控“执行权限”
2026/09/06 11:24阅读量 2
美国参议员Bernie Sanders提出的《禁止人工超级智能法案》虽聚焦于能力上限，但文章指出其暴露了更核心的治理缺口：执行边界。文章主张，AI风险的本质不在于模型有多聪明，而在于其是否拥有改变现实世界的执行权限。通过分离智能与权力，建立具体的执行闸门（如支付限额、双人确认），比试图定义和禁止难以量化的“超级智能”更具可行性和工程落地价值。
事件背景：立法争议背后的治理盲区
2026年9月，美国参议员Bernie Sanders与众议员Greg Casar提出《Ban Artificial Superintelligence Act》（禁止人工超级智能法案）。该提案旨在永久禁止人工超级智能的开发与部署，并在联邦安全规则确立前暂停部分先进AI研发。尽管该提案在政治层面引发关于“科学定义未明”与“预防原则”的激烈争论，但其无意中揭示了一个更深层的治理问题：当AI从生成内容转向调用接口、改变状态时，我们究竟应该控制“智能”，还是控制“执行”？
核心观点：风险源于执行而非智能
传统AI安全讨论多围绕模型本身（如偏见、幻觉、对齐问题），隐含前提是风险来自“机器如何思考”。然而，文章指出，真正将风险带入现实世界的是执行能力。
- 风险公式重构：危险程度 = 智能 × 权限 × 自主程度 × 规模 × 速度。一个不聪明但拥有数据库删除权或支付接口的系统，其风险远高于一个聪明但无执行权限的系统。
- 能力与权力分离：人类社会制度早已实践此原则——员工即使再聪明，也不应拥有不受约束的最终执行权。当前AI工程常将强大智能与API Key、云控制台权限混合，依赖“模型永远正确”的脆弱假设，这是不安全结构。
治理路径：从抽象禁令到具体执行闸门
相比难以定义的“超级智能”，执行边界具有天然的具体性和可审计性，更适合工程化治理。
- 定义具体执行边界：无需回答AI是否有意识或是否达到AGI，只需规定具体动作的限制，例如单笔支付限额、可操作账户清单、高风险动作需第二人确认、命令超时自动失效等。
- 精细化控制优于一刀切：治理对象应从“模型”转向“动作”。允许AI进行分析和规划，但在触及高风险执行点（如资金转移、代码上线）时，必须经过独立于模型判断之外的验证关卡。
- 容错系统设计：成熟系统不假设组件永不失败，而是设计失败阻断机制。AI安全成熟的标志是：即使模型犯错、被攻击或管理员失误，单个错误也无法自动获得改变现实的最终权力。
结论：构建“不需要机器永远听话”的系统
AI治理的核心应从“确保机器想对”迁移至“限制机器能做”。正如Zero Trust架构不信任任何主体，AI安全也应放弃对“可信主体”的迷信，转而构建“可信的结构”。无论未来AI多么智能，都必须将其权力关进由具体执行边界构成的结构中，确保当智能犯错时，现实世界有能力拒绝它。