RSI（递归自我改进）：AI 加速进化的技术路径与背后的利益博弈

事件概述

近期，AI 领域热议的新概念为 RSI（Recursive Self Improvement，递归自我改进）。这一概念源于 1965 年数学家 I.J. Good 提出的“智能爆炸”设想，即机器能够设计比自己更聪明的机器，进而进入不断加速的正反馈循环。与关注通用认知能力的 AGI 不同，RSI 的核心在于 AI 能否改变产生这些能力的系统本身，并让下一轮改进更加高效。

核心信息与技术现状

1. RSI 的自主性层级划分
根据上海交通大学、清华大学、字节跳动及上海人工智能实验室等机构发布的预印本《The Last AI Built by Humans》，RSI 的自主性被划分为五个层级（L1-L5）：

• L1-L3：从执行人类方案到自主寻找策略，再到决定获取经验。
• L4：将部署环境中的反馈转化为持续保留的改动。
• L5（终极形态）：改进机制本身成为改进对象。AI 不仅能完成任务，还能修改后续搜索方案、评估结果和组织研究的底层逻辑，使后继系统继承这些修改。在此阶段，模型架构和训练流程将主要由机器自主选择。

2. 头部机构的实践进展

• OpenAI：已实现“自动化研究实习生”目标。截至 8 月中旬，每投入一个人类工作日，其研究部门的智能体运行时长相当于 3.1 个工作日。该系统能在指导下编写代码、运行实验、排查故障和分析结果。
• Anthropic：推进自动化至安全研究领域。在实验中，能力较弱的 Claude Sonnet 5 帮助早期 Claude Opus 4.8 改善安全表现。约 60 小时内，前者测试了 50 多种方案，仅使用约 2400 条训练样本，便将后者的对齐成绩推至接近正式版水平。
• Harness Engineering：除了直接修改模型权重，另一条现实路径是优化 AI 的运行系统（Harness），包括工具调用、上下文管理、记忆保存等。通过修正接口或重写任务调度代码，可显著提升系统工作能力并辅助下一代模型研发。

3. 技术挑战与时间表分歧
尽管进展迅速，但实现超级人工智能（ASI）仍面临难题：

• 灾难性遗忘：模型吸收新经验时可能丢失原有能力，需在激进更新与保守学习间找到平衡。
• 研究判断力缺失：AI 难以像人类一样具备直觉，判断失败实验是方向错误还是值得探索，以及提出全新科学问题的能力。
• 时间预测：专家对 ASI 出现时间存在分歧，John Schulman 预测 3-4 年，Millidge 倾向 5 年，O’Neill 则认为需 5-10 年。

值得关注：风险叙事背后的产业博弈

围绕 RSI 的风险讨论呈现出明显的两极分化，背后折射出产业链不同环节的利益诉求：

• “减速派”与安全壁垒：Anthropic CEO 达里奥·阿莫代伊及前员工 Jacob Coxon 呼吁同行降速，允许第三方评估机构常驻实验室以检查安全风险。这种高标准的合规要求天然构成了竞争壁垒，因为开源社区和中小企业难以承担同等规模的安全审计成本。同时，OpenAI 等公司主张“为了防御失控 AI，必须先造出足够强大且对齐的 AI”，形成了一套需要更多算力、能源和资本支持的闭环逻辑。
• “加速派”与硬件利益：英伟达 CEO 黄仁勋反驳非黑即白的安全思维，强调创新与安全并非二选一。对于芯片制造商而言，无论 AI 最终带来何种后果，只要模型训练继续，GPU 和基础设施就有市场需求。因此，限制训练规模或增加审批门槛被视为威胁硬件产业链利益的行为。

当前关于 RSI 的争论，表面上是关于人类生存风险的哲学探讨，实质上涉及下一轮算力、资本和产业主导权的分配。