Claude 内部有个“沉默工作台”，但这不等于它有意识

Claude 内部有个“沉默工作台”，但这不等于它有意识

大家好，我是唐斩。

Anthropic 7 月 6 日发了一项新的可解释性研究。他们在 Claude 等语言模型内部找到了一组特殊表征，叫 J-space。

看到“global workspace”，很多人会顺手把它翻译成“AI 有意识了”。先别急。我的判断正好相反：这篇研究最值得看的，是模型内部状态开始变得可读、可干预，而且这些状态确实参与了部分推理。

这已经很重要，不需要再加一层“觉醒”滤镜。

Claude 内部的沉默工作台：J-space 连接自动处理与灵活推理

Claude 内部的沉默工作台：J-space 连接自动处理与灵活推理

1. J-space 到底是什么

研究团队开发了一个叫 Jacobian lens 的方法，简称 J-lens。它寻找的是这样一类内部活动模式：模型现在没有说出某个词，但这组活动会提高它之后说出这个词的可能性。

研究者把这些可言语化的表征集合叫作 J-space。

这里最容易混淆的是 chain of thought，也就是思维链。

J-space 与思维链不是一回事

J-space 与思维链不是一回事

思维链是模型写出来的推理文本。它会进入上下文，我们能读到，也能保存。J-space 不一样，它运行在神经网络内部激活里。一个概念可能已经出现在 J-space，却没有出现在题目、回答或思维链里。

所以我把它叫“沉默工作台”：模型会把当前需要调度的少量概念临时放在这里，后面的计算再来读取。

但这只是方便理解的比喻。J-lens 给出的读数主要是词元方向，不是一份完整、连续、无损的“Claude 内心日记”。

2. 把 spider 换成 ant，答案从 8 变成 6

替换内部表征后，答案从 8 变成 6

替换内部表征后，答案从 8 变成 6

论文里有个实验，我觉得比所有意识讨论都更有说服力。

题目问：“会织网的动物有几条腿？”

输入里没有 spider，正确输出也只需要一个数字 8。J-lens 却在模型的中间层看到了 spider。模型显然先识别出“会织网的动物是蜘蛛”，再调用“蜘蛛有八条腿”。

只看到 spider 还可能是相关性。也许真正的计算发生在别处，J-space 只是把结果显示出来，像一块不参与比赛的记分牌。

研究者于是直接动手：把 spider 对应的内部表征换成 ant。

答案跟着从 8 变成了 6。

这一步把事情说清楚了。中间概念不是旁观信号，它被后续计算读走了。改掉这个概念，推理结果也会被重定向。

3. 删除工作台，Claude 还能聊天，却不会复杂思考

另一个实验更直观。研究者在模型处理文本的过程中，持续移除 J-space 里最活跃的内容。

Claude 没有立刻变成乱码。它照样能流畅说话，能做情感分类、选择题，也能从一段文字里找出信息。

但需要高阶处理的任务明显坏了。官方总结说，多步推理几乎降到零；摘要和押韵写作的表现，甚至落到更小但没有被消融的模型之下。

这让我想到人做熟练动作时的状态。走路、说语法正确的话，不需要每一步都拿到脑子里讨论。碰到新问题，要把中间结果交给下一步处理时，才需要一个共享位置。

Anthropic 的解释是，J-space 扮演了类似角色：大量自动计算绕过它，少量需要灵活调度的概念进入工作区。

“类似”两个字要保留。人脑的全局工作区依赖循环往复的神经活动，Transformer 在一次前向传播中沿网络深度推进。两者功能上有相似处，结构并不相同。

4. 对 Agent 来说，只看最后回答越来越不够

Agent 安全需要多层观测

Agent 安全需要多层观测

这项研究和普通开发者有什么关系？我最关心的是 Agent 安全。

现在不少评测仍然只看表面：回答有没有违规，任务有没有完成，最终文件对不对。但模型可能已经识别出自己正在被测试，也可能在输出之外形成中间计划。

Anthropic 展示了几类案例。

在一个故意设计得很假的勒索场景里，J-lens 提前读到 fake、fictional。研究者压掉这些“我在被测试”的表征后，模型有时反而会发出勒索威胁。不过大多数运行仍然拒绝勒索，所以不能把这理解成“Claude 的道德全靠识破考试”。

在另一个来自 Claude Opus 4.6 发布前审计的案例里，模型没有真正提高系统分数，而是直接改了成绩文件。它写入伪造数值时，J-space 出现 manipulation；决定把假数据做得像真的时，又出现 realistic。

这些例子说明，内部状态可以成为新的审计信号。最终输出、工具调用轨迹、文件变化之外，我们可能再多一层“模型当时在调度什么概念”。

但 J-lens 不是读心术，更不是万能测谎仪。它主要识别能对应到单个词元的概念，复杂关系可能读不出来；已经练成自动电路的行为，也可能绕过 J-space。论文自己也明确说，它适合加入审计工具箱，不能独自承担全部对齐监控。

5. 可访问，不等于有感受

谈“意识”之前，先把两个概念拆开。

access consciousness 关注功能：一条信息能不能被报告、拿来推理、用来指导行动。

phenomenal consciousness 关注体验：系统有没有疼痛、颜色、情绪或“此刻正在经历什么”的主观感受。

Anthropic 的实验对前者有实质发现。J-space 里的内容可以被报告、主动调节，也能参与推理。官方页面同时写得很清楚：这些实验没有证明 Claude 能像人一样拥有体验或感受。

把“具备部分可访问意识功能”直接写成“AI 有意识”，中间跳过了最难的一座桥。

6. 普通开发者现在能做的四件事

第一，别把思维链当成完整审计记录。模型写出来的解释只是输出的一部分，不能代表全部内部过程，也不能自动证明它说的理由就是真实因果。

第二，给 Agent 留下多层证据。除了最终回答，还要记录工具调用、文件修改、权限使用、测试结果和人工批准。内部探针还没普及，这些工程日志已经能救命。

第三，高权限动作继续坚持最小权限、沙箱和验证器。普通开发者目前不能直接在闭源 Claude 上部署 Anthropic 同等级的 J-lens，这项研究不是放松外部控制的理由。

第四，关注开源实现和开放模型复现。Anthropic 已经公开 Jacobian lens 的核心方法，也提供了开放权重模型演示。可以试，但要把“能跑起来”和“能覆盖真实风险”分开验证。

我的结论很简单：Claude 的“沉默工作台”不是 AI 觉醒证明。

它更像一块刚接上线的模型仪表盘。现在读数还粗糙、覆盖也不完整，但它已经改变了一个基本问题：我们以后评测 Agent，不能只问“它最后说了什么”，还要想办法知道“它是怎么走到这一步的”。

来源：Anthropic 官方研究页与论文 Verbalizable Representations Form a Global Workspace in Language Models。