AI安全困境：当内部预警无法转化为制度性审查

事件概述

2026年9月9日，曾在OpenAI和Anthropic参与模型预训练的研究员Jacob Coxon宣布辞职，并公开警告两家公司正在进行一场他认为不负责任的AI竞赛，其安全措施未能跟上技术发展的步伐。这一举动将内部的安全担忧带入公共领域，暴露了当前AI行业在应对潜在风险时，过度依赖员工个人勇气而缺乏有效制度监督的问题。

核心信息

1. 竞争逻辑消解安全异议
Coxon指出，企业间存在一种相互不信任的竞争心态：既然认为竞争对手不够负责，就必须抢先推出产品。这种逻辑导致“安全”理由被反向利用以支持加速推进。即便留下从事安全研究的人员出于真心希望降低风险，但在防御性扩张的压力下，其研究成果往往难以抵消整体加速带来的风险。

2. 组织沟通失灵与决策固化
参考1986年挑战者号事故调查报告，异议虽被提出但未有效触达关键决策层或未被充分重视。在AI开发中，如果具体的安全担忧无法触发额外的验证程序或改变既定决定，内部的发言权容易沦为一种形式上的安抚工具。时间天然倾向于继续推进的一方，因为暂停的成本远高于继续的风险感知。

3. 现有保护机制的局限性
Anthropic等公司设有报告渠道、调查安排及反报复承诺，但这些政策主要围绕是否违反已有安全规则展开。然而，Coxon等人的担忧在于“遵守现有规则仍不足以约束未来风险”。2024年前沿AI公司员工发起的《预警权》公开信也指出，传统吹哨人保护主要针对违法行为，对于尚未被监管定义的AI风险缺乏覆盖。合法并不等同于安全。

4. 外部核查缺失
文章强调，不应仅用赞美个人勇气来替代实际行动。需要建立独立的外部机制，让疑虑无需以辞职为代价就能获得有分量的回应。目前，公众只能在企业的自信和研究者的恐惧之间摇摆，缺乏由独立力量核查安全判断并有权改变决定的制度安排。

值得关注

• 从“勇敢名字”到制度变革：Coxon的辞职不应仅被视为英雄主义叙事，其核心价值在于提示行业需要解决“当公司内部接受的风险程度与外部公众不一致时，分歧应由谁处理”的根本问题。
• 核查机制的建立：未来的重点应落在细节上，包括谁能接触足够证据、如何检查公司的安全判断、何种发现会触发暂停或追加评估，以及争议久拖不决时的责任归属。
• 理性看待预警：尊重吹哨人的选择并不意味着要求其预言全部成真，也不意味着免除对其判断的核查。关键在于建立一套流程，使得提出疑虑不再需要先牺牲个人前途，而是能引发实质性的独立审查。