把爱因斯坦的知识喂给大模型,它能发明相对论吗?
Google DeepMind 研究员 Tom Zahavy 发表观点论文《LLMs can't jump》,指出大语言模型虽擅长归纳与演绎,但结构性缺失科学发现核心的溯因能力,仅靠扩大参数和文本数据无法催生类似相对论的重大突破,未来需将大模型与具备物理一致性的交互式世界模型结合。
事件概述
Google DeepMind 资深研究员 Tom Zahavy 发表观点论文《LLMs can't jump》,系统论证当前大语言模型无法实现真正的科学发现。论文以爱因斯坦构建广义相对论的过程为案例,挑战了“科学发现是数据压缩”的主流认知,并明确划定了 LLM 的能力边界。
核心观点
1. 科学发现并非数据压缩的归纳过程
主流机器学习界常将科学发现归结为“数据压缩”,即通过归纳从海量数据中提炼最简洁模式。但论文指出,爱因斯坦提出广义相对论时,牛顿引力并未面临显著观测误差——惯性质量与引力质量的等价性已被验证到 10⁻⁹ 精度,唯一反常的水星近日点进动在当时被归因于未知行星“火神星”。重大范式转移往往发生在没有监督误差信号的条件下,仅靠归纳压缩数据无法重构全新物理图景。
2. 大语言模型精于归纳与演绎,但缺失溯因能力
论文借用皮尔士逻辑学框架指出,LLM 在归纳(从数据提炼规律)和演绎(如 AlphaProof 在既定公理下推导定理)上已表现出极强能力,但科学发明的核心瓶颈在于溯因——即为解释反常现象凭空提出全新公理假设。LLM 类似“高维中文房间”,只能在已知符号间运算,缺乏从感官体验到新公理的“跳跃”机制。
3. 爱因斯坦的“溯因飞跃”依赖具身物理仿真
爱因斯坦通过“电梯思想实验”完成溯因:设想密闭电梯中观察者释放物体后地板迎面而来,这一具身仿真让抽象公理锚定在物理体验中,从而得出等效原理。纯文本训练的 LLM 缺乏物理感官接地,无法完成这一认知过程。
4. 未来 AI 科学发现需结合交互式世界模型
单纯增加 LLM 的上下文长度或算力无法突破瓶颈。论文提出,AI 需要与具备动作可控性和反事实干预能力的物理一致性多模态世界模型(如 Genie 范式)相结合,为溯因提供可操作的合成仿真环境。视觉预测式视频模型(如 Veo)只具备统计相关性的“直观物理”,不能替代真正可交互的世界模型。
值得关注
论文回顾了广义相对论诞生中的关键历史:1913 年爱因斯坦与 Grossmann 曾接近最终场方程,但因误判黎曼曲率张量无法回归牛顿极限而放弃,走了两年弯路,直到 1915 年 11 月连续四篇论文才完成正确方程。这一过程显示,即使演绎阶段可被 AI 加速,初始公理的生成仍无法自动化。论文最后提出,交互式世界模型的迭代将有望把“溯因飞跃”从神秘洞察转化为可复现算法过程。
