Anthropic 发布 Claude 内部状态研究：J-lens 读取未说出口的概念，但意识叙事引发争议

事件概述

Anthropic 发布了一项关于 Claude 内部机制的研究《A global workspace in language models》，提出一组名为 J-space 的内部表示，以及读取它的方法 Jacobian Lens（J-lens）。该研究试图揭示模型在生成回答之前，内部已经形成但未写出的概念。

核心信息

• J-space 是 Claude 中间层中一组与词相关的内部模式。模式亮起不代表模型会输出该词，而是代表该概念已进入模型可使用的内部状态。
• J-space 具有五个特征：可报告（模型可将部分状态转成语言）、可调动（指令可让概念进入 J-space）、参与中间推理、可被后续计算复用、但不参与大多数普通能力（如流畅说话）。它只占模型激活方差的一小部分（最高不到10%）。
• Jacobian Lens 通过估计中间层激活变化对最终层的影响，再映射到词表得到读数。它读取的是“这个中间状态在未来输出中更容易支持哪些词”，而非“下一步一定输出什么”。
• 干预实验表明，修改 J-space 表示会改变模型后续报告、推理结果和部分策略行为，说明这些状态参与了部分计算。
• 工程应用方向包括：counterfactual reflection training（在不要求输出反思文本的情况下，训练模型在关键位置形成正确内部判断）；安全评测中用于发现模型识别出测试条件而产生的伪安全行为；agent 场景中在动作前读取内部异常信号。
• 当前技术落地主要在模型厂商内部，闭源 API 用户难以直接使用，需访问 residual stream 等底层接口。

争议与质疑

• 研究论文中“conscious”一词出现 200 多次，尽管 Anthropic 声明不证明 Claude 有主观体验，但叙事高度关联人类意识概念，引发网友质疑其“为上市营销”。
• 部分社区认为，激活影响输出且不体现在文本中并非新发现，Anthropic 只是将其对齐到全球工作空间理论。
• 技术边界上，J-space 覆盖范围小，只能读取单 token 概念，不能稳定表示复杂意图或长期策略，且未读到风险概念不等同安全。
• 网友普遍认为 Anthropic 的技术真实，但话术太重，导致信任折扣。

值得关注

• J-lens 能否在不同模型上稳定复现。
• J-space 读数能否降低安全评测误判。
• 内部状态监控能否以可接受成本进入生产。
• 训练能否可靠地塑造模型的潜在内部状态。