Anthropic：大语言模型在回答前想了什么？

事件概述

Anthropic 研究团队并未直接求证 Claude 是否有意识，而是提出一个更可检验的问题：Claude 内部是否存在可被报告、可被调控、可参与推理并在多任务间灵活转用的表征。为此，他们开发了 J-lens 工具，用于读取模型尚未输出的内部表征，这些表征的集合称为 J-space。

J-lens 工具：读取未输出的内部概念

J-lens 的核心思路是为 Claude 词表中的每个词匹配一个内部激活方向。当模型激活沿该方向增强时，后续说出对应词的概率上升。J-lens 读出的内容往往不是输入文本中已有的词，而是模型内部计算出的判断——例如阅读有 bug 的代码时，J-space 中出现错误相关信号；遇到提示注入时出现“injection”。更重要的是，J-space 并非被动观察窗口，而是生成输出的因果环节：替换 J-space 中的内部表征会直接改变模型回答。删除或替换 J-space 后，模型仍可完成简单任务，但多步推理、摘要生成等高阶任务明显受损。

J-space 的性质：类全局工作空间的内部工作台

实验证实 J-space 符合认知科学中全局工作空间的核心特征：

• 可调控：即使模型表面输出不变，内部仍会生成与隐藏任务相关的概念。
• 参与推理：替换某个中间概念后，模型后续答案随之改变。
• 广播能力：同一概念进入 J-space 后，可被多个不同任务共同调用。

J-space 容量有限但连接广泛，只承载少量关键概念，使其成为可被多计算过程访问的共享内容，与全局工作空间的功能特性一致。

应用价值与研究局限

应用价值：

• AI 安全审计：可提前捕获勒索场景中的潜藏风险，区分模型真实安全表现与伪装合规行为。
• 模型对齐训练：通过反事实反思训练生成诚实、守原则的内部表征，有效减少不实输出；移除这类正向表征后训练效果明显弱化。

局限：

• 仅能识别匹配词表 token、带有清晰语言标签的内部表征，无法捕捉无文字标识的隐性规划或自动化危险行为。
• 研究仅证明模型具备类全局工作空间的信息处理功能，不能证实 AI 拥有主观体验或现象意识。

总结

该研究的核心意义在于证明大模型会自发演化出类全局工作空间的功能架构，为可解释 AI 开辟了观测模型隐性思考的窗口，也为认知科学提供了新论据——工作空间式计算或许是复杂智能系统处理多步推理、灵活决策时自然演化出的通用架构。