Hinton等20余位AI专家警告：递归自我改进加速，2028年或现“智能爆炸”临界点

事件概述

由剑桥大学人工智能科学与政策项目（CASP）牵头，包括Geoffrey Hinton、Yoshua Bengio、Dawn Song、OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark及微软首席科学官Eric Horvitz在内的二十多位研究者共同发布了一份关于AI递归自我改进（Recursive Self-Improvement, RSI）的报告。报告并未宣布“智能爆炸”已经发生，而是基于当前数据趋势，分析了当AI深度参与自身研发流程时，技术进步可能出现的指数级加速现象及其潜在风险。

核心事实与数据

1. AI参与研发比例急剧攀升

   • Anthropic数据：内部由AI生成并最终获批的代码占比，从2025年初的个位数上升至2026年5月的80%以上；仅需人类高层监督、主要由AI自主完成的研发工作，从2025年3月的1%升至8月的26%。
   • 行业趋势：OpenAI表示其代码Agent已用于未来模型的训练、评估和安全工作；Google称几乎所有涉及代码、技术设计和研究构思的工作均在不同程度上使用AI辅助。

2. 递归自我改进（RSI）的三阶段演进

   • 第一阶段（辅助工具）：AI作为研究员的助手，帮助写代码、检索论文和寻找错误，研发方向仍由人类主导。
   • 第二阶段（流水线调度）：AI成为研发流水线的一部分，Agent能拆解任务、编写代码、运行实验并比较方案，单个研究员可同时调度数十至数百个Agent并行试错，显著增加公司的“有效研究员数量”。
   • 第三阶段（递归循环）：AI直接参与研发出更强、更便宜的下一代模型，新模型随即被放回研发流程承担更多任务，形成正向反馈循环，使研发效率呈指数级增长。

3. 加速预测与“智能爆炸”

   • 时间线预测：按照近年增长趋势外推，报告认为到2028年中，AI可能有能力承担原本需要人类专家数月完成的研发项目。
   • 加速假设：在理想化假设下（AI达到顶尖研究员水平且运行成本不变），单凭OpenAI现有的推理算力即可支撑数百万名AI研究员并行工作。在此条件下，AI技术进步的速度可能在全面实现研发自动化后的约一年半内提高十倍，即原本需一年完成的进步可能缩短至五周。

关键结论与限制因素

报告强调，目前的证据尚不足以证实“智能爆炸”必然发生，该循环仍面临多重物理和计算瓶颈：

• 资源限制：AI研发依赖实验算力、训练数据以及持续数月的大型训练任务，即使AI能快速提出方案，现实中的计算资源未必允许逐一验证。
• 物理世界延迟：在生物、材料等领域，等待实验结果的时间无法通过代码优化来压缩。
• 重复劳动风险：更多Agent可能导致重复劳动，或在必须顺序解决的问题前停滞。
• 历史数据局限：历史上的算法进步与算力增长紧密纠缠，难以确认仅靠软件改进是否足以维持持续的加速循环。

综上，报告的核心警示在于：随着AI不断参与制造下一代AI，系统整体研发能力的提升正在逼近一个临界点，虽然受限于硬件和物理规律，但“智能爆炸”作为一种潜在的技术加速形态，已进入现实考量范畴。