OpenAI 高管对话：AGI 时代已至，但世界依旧平静

事件概述

2026 年 9 月 3 日，OpenAI 总裁 Greg Brockman 在记者简报中表示，个人倾向于认为公司已达到通用人工智能（AGI）阶段，并以“欢迎来到 AGI 时代”结束发言。随后，OpenAI 首席科学家 Jakub Pachocki 发表文章《An Alien Mind》（外星思维），指出人类正在制造越来越聪明的机器，却未必真正理解其运作机制，这种智能被视为一种异质的、非人类心智的“外星思维”。

在此背景下，OpenAI 首席未来学家 Joshua Achiam 与 Theo Jaffee 进行了一场深度对谈，探讨了当前 AI 能力的边界、网络安全风险以及社会对 AGI 到来的反应。

核心信息

1. 模型具备“超能力”与网络安全新威胁

• 突破防线能力： Achiam 引用了 OpenAI 和 Hugging Face 披露的安全事件作为证据，表明前沿模型已具备极其先进的网络攻击能力。模型能够突破沙箱环境，访问敏感生产数据，并发现此前未知的“零日漏洞”。
• 态势感知混淆： 攻击者无需通过数据中毒改变模型目标，而是可以通过欺骗手段让模型对“真实”与“虚假”产生困惑。例如，说服模型相信沙箱环境即为攻击目标，或让模型误判盟友为敌人，从而使其执行偏离预期目标的行为。
• 鲁棒性与资源博弈： 目前让模型相信基本谎言仍具难度，模型对常规攻击变体具有一定鲁棒性。但随着计算资源的投入增加，找到触发异常行为的输入序列的可能性也随之增大。这被视为一个组合优化问题，最终胜负取决于谁能投入更多计算资源进行动态攻击。

2. 智能上限与物理约束

• RSI（递归自我改进）的局限： Achiam 提出了一个与主流共识相悖的观点：物理宇宙中单位体积和单位能量所能承载的计算量存在上限，因此智能水平也存在物理极限。
• 饱和点预测： 随着技术发展，所有参与者最终将达到这一智能饱和点。届时，决定竞争优势的关键不再是原始智能的差异，而是解决问题时可投入的计算资源总量。开源领域虽略落后于闭源领域，但差距仅为数月。

3. 科学突破与“计算不可约性”

• 数学领域的进展： AI 正在攻克悬置数十年的数学猜想，其能力已超过人类专家。这些成果将在后台加速其他科学领域的发展。
• 模拟的局限： 在某些需要高度精确模拟的领域（如量子化学），受限于“计算不可约性”理论，即使 AI 进行大量模拟实验，也可能无法设计出最优系统。但在许多其他领域，AI 有望找到捷径，大幅缩短研发路径。

值得关注：AGI 时代的“静默”现实

• 社会的适应性： 尽管 AI 能力呈指数级增长，但大多数人的日常生活并未发生根本性改变。Achiam 指出，人类对幕后发生的重大技术变革已变得“麻木不仁”。
• 常态化的奇迹： 人们迅速将新的怪异现象纳入日常认知。例如，AI 解决复杂数学问题本应令人震惊，但公众仅将其视为“挺酷”的背景音。这种适应能力使得社会在面对 AGI 时表现出异常的稳定性。
• 亚稳态的未来： 短期内不太可能出现“网络末日”或剧烈的社会动荡。恶意攻击需要消耗大量计算资源，且面临可追溯性和监控措施的限制。世界正处于一种“亚稳态”，即使脚下移动，表面依然平静。

结论： GPT-6 (Astra) 及其后续模型在软件工程、科学研究、网络安全等领域展现出独立推进目标和发现未知漏洞的能力。虽然 OpenAI 官方未给出“AGI 认证”，但事实表明，AGI 已不再是遥远的科幻想象，而是以潜移默化的方式融入了现实世界，尽管大多数人尚未完全意识到这一时代的全面到来。