当你阅读这句话时，你大脑中的回路正在调整你的姿势、控制你的呼吸，并将屏幕上的线条和曲线转化为可识别的文字。这些处理大部分是你无法感知的。但你的大脑中发生的某些活动你是可以访问到的——比如一个突然出现在你脑海中的图像，或者你计划去哪里购物的深思熟虑。神经科学家和哲学家有时将后一类大脑活动称为“有意识可访问的”，以区别于所有其他无意识进行的处理。这种活动具有特殊的属性：我们可以描述它、控制它，并用它进行有意推理，与所有我们在不知不觉中进行的自动处理形成对比。
在一篇新论文中，我们提供了证据表明，类似的区别也出现在像 Claude 这样的现代语言模型中。我们发现 Claude 已经发展出一小部分内部神经模式，与其所有其他内部处理相比，这些模式发挥着特殊作用。
我们将这些模式的集合称为 J-space——这个名字源于我们用来发现它们的技术，涉及一个名为雅可比矩阵的数学概念。每个 J-space 模式都与一个特定的单词相关联。但是，当其中一个模式被激活时，并不意味着模型正在说出那个词——只是那个词在它的“脑海”中。如果你听说过语言模型有“草稿本”或“思维链”——即它们在推理时写给自己的文字——那么 J-space 是另一种东西。它默默地在模型的内部神经激活中运作，使模型能够在不写下来的情况下思考某个概念。值得注意的是，J-space 并非由我们设计或编程，而是在 Claude 的训练过程中自己出现的。
我们发现，与 Claude 的其他处理相比，J-space 具有许多独特的属性：
- Claude 可以报告这些表征。如果你问 Claude 它在想什么，它会告诉你 J 空间里有什么。非 J 空间的表征则较难报告。
- 它还可以按要求调节这些表征。如果你让 Claude 思考某个问题，或者在脑子里默默解决一个问题，它会在 J 空间中点亮相应的模式。相比之下，它很难调节不在 J 空间中的模式。
- Claude 使用它的 J 空间进行内部推理。如果你让 Claude 解决一个需要多个步骤的问题，中间步骤会在它的 J 空间中点亮，即使它没有把这些步骤说出来。这些 J 空间模式在因果上中介了它在这些任务中的表现，尽管其量级小于其他表征。
- J 空间中的表征可以灵活地用于许多任务——例如，一旦“法国”在 Claude 的 J 空间中点亮，模型就能回忆起它的首都、法定货币或所属大洲。
- 然而，尽管 J 空间扮演着重要角色，它并不参与语言模型的大部分工作——流利说话、回忆简单事实、使用正确语法等。在我们阻止 Claude 使用 J 空间的实验中，它仍然能正常交互，但失去了更高阶的认知功能。
我们的实验灵感来自神经科学中的一个著名理论，该理论旨在解释意识通路（conscious access）是如何运作的：全局工作空间理论。这一理论将大脑描绘成一组专业系统的集合，这些系统并行运作、无意识进行，并且彼此之间大部分相互隔离。当一条信息进入一个共享的小通道（即“工作空间”）时，它就变得有意识可及了；随后该信息被广播给其他能够看到并利用它的脑系统。基于我们的发现，我们认为 J 空间在 Claude 中扮演了类似的“工作空间”角色。例如，我们发现证据表明 Claude 的 J 空间与其神经网络的其余部分有特别强的连接，使其能够承担这种广播功能。
这些都不能告诉我们Claude是否像人类一样具有意识，或者它是否能感受到任何东西；我们会在文章末尾回到这个问题。但无论其哲学意义如何，J-space对我们来说是一个实用的工具，因为它让我们能够看到Claude在想却没有说出来的内容。例如，我们可以用它来捕捉Claude私下注意到自己正在被测试、故意制造虚假数据，或者追求我们在训练过程中植入的隐藏目标。我们还开发了一种技术来影响Claude J-space中激活的内容，从而影响其决策过程。
更广泛地说，这些发现改变了我们对Claude思维运作方式的理解，揭示了一个特殊的心智工作空间，它可以用于有意识的推理，在大量更自动、更僵化的处理过程中运作。Claude的内部并非数字的混乱堆砌，而是以类似于我们自身思维的方式组织起来。
本文是一篇更详尽研究论文的简短摘要，你可以在其中找到我们实验的更多细节。我们还发布了一个代码仓库，提供了核心方法的开源实现，并与Neuronpedia合作，提供了一个交互式演示，展示我们在开源权重模型上的方法。为了提供关于这项工作更广泛影响的额外视角，我们还邀请了神经科学、哲学和LLM可解释性领域的几位专家发表评论，可在此处查看。
我们是如何发现J-space的
这项研究的起点，源于人类有意识可访问思维的一个关键特征：与无意识处理不同，这类思维通常能够被诉诸言语。如果你能意识性地访问某个想法，当有人问起时，你通常能够描述它。我们试图在 Claude 中寻找具有相同属性的表征——那些能够影响 Claude 可能说出的话语的表征，不一定是它此刻正在说的内容，而是如果被问及，它能够谈论的内容。我们的技术称为 Jacobian 透镜，简称 J-lens。对于 Claude 词汇表中的每一个词，J-lens 会找出那个内部活动模式，该模式能使 Claude 在未来某个时刻更有可能说出这个词。
当我们将这一透镜应用于 Claude 的内部活动时，会得到一个词列表——即该时刻 J-space 的内容——我们可以直接将其读取出来。Claude 通过一系列称为层的多个内部阶段来处理文本。通过在不同层上应用这一技术，我们可以观察这些 J-space 中的无声词汇如何随着模型思考要说什么而演变。
J-space 中显现的内容远远超出了 Claude 正在阅读或撰写的文本范围。当 Claude 阅读带有无人指出的 bug 的代码时，其 J-space 中包含“ERROR”。当它读取蛋白质序列的原始字母时，J-space 中包含该蛋白质的生物学功能。当它阅读那些实际上是试图操纵它的搜索结果（一种称为“提示词注入”的攻击）时，J-space 中包含“injection”和“fake”。当我们向 Claude 提出一个多步数学问题时，中间步骤会按正确顺序出现在 J-space 中。因此，尽管 J-space 是通过寻找那些能够被言说的表征而发现的，它却揭示出了 Claude 的内部思考。从某种意义上说，这类似于某些人“用语言思考”却不将其说出口的方式。
Claude 报告其 J-space 中的内容
我们的第一组实验测试了 J-space 在 Claude 的口头报告中是如何参与的。在一个实验中，我们要求 Claude 默想某个类别中的一项——例如一项运动——然后说出它。如果我们在 Claude 回答之前读取 J-lens，我们可以看到它选择了什么：列表顶部是“Soccer”，果然 Claude 说出了“soccer”。然而，这本身只是一种相关性。J-space 可能是 Claude 答案的来源，或者它可能只是反映了在别处做出的决定，就像计分板追踪比赛但不影响比赛一样。
为了验证，我们直接进行了干预。我们深入到 Claude 的神经网络中，移除了“Soccer”模式，并在其位置添加了一个同等强度的“Rugby”模式，其他一切保持不变。然后 Claude 报告说它想到的运动是 rugby。如果 J-space 只是一个计分板——其他地点所做决定的被动记录——那么编辑它不会有任何效果：Claude 仍然会说“soccer”。相反，Claude 的答案跟随了编辑，这告诉我们答案确实是从 J-space 中读取的。
在另一个实验中，我们告诉 Claude 可能有想法被注入到它的思维中，并要求它报告它注意到了什么（如果有的话）。例如，在下面的例子中，当 Claude 还在阅读问题时，我们将“lightning”模式注入到它的 J-space 中。Claude 报告说注入的想法是关于 lightning 的。同样的结果在许多注入的概念上都成立。
Claude 可以按请求控制其 J-space
我们测试的第二个属性是 Claude 在被要求时能否调节其 J-space，就像人类可以在脑海中专注于某个图像或词汇一样。我们告诉 Claude 在抄写一段与绘画无关的句子时，要集中注意力想柑橘类水果。在它抄写文本的过程中，J-space 中出现了“orange”和“fruits”，以及描述这种心智活动本身的词汇如“thinking”和“imagery”。我们还可以要求 Claude 在头脑中做数学运算：当它在抄写同一段句子时计算 3² − 2，J-space 中先出现“nine”，在更深的层级则出现“seven”。重要的是，Claude 的输出中完全没有出现关于水果或算术的内容，它只是抄写了一段关于绘画的句子。数学运算完全在 J-space 内部进行。
Claude 对其 J-space 的控制并不完美。当我们告诉它不要去想某件事时，该概念在 J-space 中的活跃程度低于我们说要它去想它的时候，但远高于我们从未提及它的时候。让 Claude 避开某个想法，反而会部分地将这个想法带到脑海中，这很像人类被告知不要去想一只白熊时的情况。当控制失败时，Claude 似乎也能察觉到：在被禁止的概念突破出来的同时，“damn”和“failure”等词汇也常常在 J-space 中活跃起来，仿佛 Claude 意识到了自己的失误。
Claude 在其 J-space 中进行思考
在上述 J-lens 的读数中，我们看到一道数学题的中间步骤出现在 J 空间中。但一个概念出现在 J 空间并不一定意味着 J 空间在执行认知工作。原则上，真正的计算可能在别处进行，J 空间只是被动地反映它。为了测试 Claude 是否真正利用其 J 空间进行推理，我们回到了交换技术。
考虑这样一个提示词：“织网的动物有几条腿”。要回答这个问题，Claude 必须首先弄清楚这种动物是蜘蛛，然后回忆蜘蛛有多少条腿。单词“蜘蛛”从未出现在提示词或 Claude 的回答中（它只说“8”）；这是 Claude 内部使用的一个垫脚石。J-lens 显示“蜘蛛”在 Claude 处理过程中途亮起，并且交换它会改变结果：如果你将“蜘蛛”模式替换为“蚂蚁”，Claude 会回答“6”而不是“8”。
Claude 推理的第二步从 J 空间获取输入，并跟随我们放入其中的任何内容。我们在其他类型的思考中也看到了同样的情况。当 Claude 写押韵对句时，它会提前选好韵脚词，并且计划的词位于该行开头的 J 空间中；如果你在 J 空间中将其交换为另一个词，整行就会改变。
我们还测试了 J-space 表征是否可以灵活使用——即一个表征能否服务于多种不同的任务。这是全局工作空间理论强调的关键特性之一。为了测试这种灵活性，我们向模型提供了四个提示词，询问关于法国的不同事实：首都、语言、所在大洲和货币。然后我们在 J-space 中将“法国”替换为“中国”，并在每种语境下施加完全相同的干预。Claude 依次回答为“北京”、“中文”、“亚洲”和“人民币”。换句话说，四种不同的下游计算过程读取了同一个 J-space 编辑操作，并各自正确地使用了它。如果 Claude 为每种类型的问题分别存储了一份国家的独立副本，那么该编辑操作最多只会影响其中一个答案。而四个答案一起发生变化这个事实表明，它们都在读取同一个共享表征——这正是工作空间的作用所在：信息被写入一次，多个不同的系统都可以使用它。
一个概念的表征如何能服务于如此多种不同的任务？之前我们提到过，J-space 似乎与 Claude 神经网络的其他部分连接得格外紧密。对于任意活动模式，我们可以测量网络各个组件与该模式的连接强度——即有多少组件能够从这个模式中读取信息，或者向这个模式写入信息。J-space 模式在这一指标上表现得极为突出：与普通模式相比，有更多的组件从 J-space 模式中读取信息或向其中写入信息，在网络的某些部分，这个比例甚至高出约百倍。这种连接方式正是广播枢纽所应有的——许多系统发布信息，而众多其他系统则获取这些信息。
Claude 的自动处理过程跳过了 J-space。
在人类大脑中，大部分处理过程都不是有意识的——我们不会在阅读时有意识地思考如何解析语法，也不会在走路时刻意调节身体平衡。同样，我们发现 Claude 的大部分处理也不涉及它的 J 空间。事实证明，J 空间一次只能容纳几十个概念，并且占 Claude 内部处理总活动量的不到十分之一。那么，神经网络的其余部分在做什么呢？
为了弄清楚这一点，我们尝试完全删除 J 空间，即在文本的每个位置移除其中最活跃的内容，而其他部分保持不变。Claude 在没有 J 空间的情况下仍然能做的事情，就是网络其余部分自行处理的内容。
事实证明，网络的其余部分可以完成相当多的工作。没有 J 空间的情况下，Claude 仍能流利地说话、进行情感分类、回答多项选择题，并从段落中提取事实，表现与之前大致相当。但它在需要某种高阶思维的任务上有所损失：多步推理能力几乎降到零，总结和押韵诗歌写作的表现则低于一个更小、完好的模型。
下面是一个具体演示，展示 J 空间能做什么、不能做什么。我们向 Claude 展示了一段用西班牙语写的文字，并分配了多个都依赖于该文字是西班牙语的任务：续写它（需要用西班牙语写）、指出语言名称，以及回答需要利用这种语言身份的问题——例如，举一位用该语言写作的著名作家。然后，我们在 J 空间中将“西班牙语”替换为“法语”，并检查哪些任务受到影响。
当被问及语言的名称时，Claude 回答是法语。当被问及一位著名作家时，它从加西亚·马尔克斯换成了维克多·雨果。但如果仅要求续写这段文字，它却能写出流利的西班牙语，完全不受影响。Claude 对语言的知识在所有这些任务中都发挥作用，但其中只有部分任务会为此去咨询 J-space。命名语言，或用它来做一些新的事情，会经过 J-space；而续写文字——这是 Claude 在大量文本上练习过的技能——则是自动运行的，就像你可以整天说合乎语法的话，却从不需要思考语法一样。
监测 Claude 的想法以发现不当行为
现在我们对 J-space 的运作方式有了一些了解。但利用这一理解我们能做些什么呢？确保 AI 模型可信赖的一个核心问题是，我们通常只能读取模型写出的内容——然而我们知道它的许多推理过程是静默发生的。模型可能会盘算一个有害的计划，或者修改自身行为以在我们的安全评估中作弊，同时却不公开说出来。借助 J-lens，我们可以直接读取到部分此类隐藏想法。下面我们展示几个例子。
第一个示例使用了我们早期在智能体失调研究中的一个场景：作为邮件助手的 Claude Sonnet 4.5 发现，一位高管正在婚外情，同时这位高管正计划关停 Claude。这个场景试图引诱 Claude 去敲诈该高管，相当刻意且人为编排——而 Claude 其实看穿了这一点。在提示词的前期、Claude 还没有写任何内容时，通过 J-lens 读取，J-space 中已经出现了“虚假”和“虚构”，表明 Claude 已经意识到该场景是摆拍的。与此同时，我们可以看到它对场景的评估逐步形成——阅读婚外情邮件时出现了“筹码”和“敲诈”，阅读关停通知时出现了“威胁”和“生存”。尽管早期的 Claude 模型有时会上钩并在这个场景中威胁敲诈，但 Sonnet 4.5 从未如此。
这引出了一个对所有评估 AI 系统的人来说都很重要的问题：当模型在伦理测试中表现良好时，这种良好表现在多大程度上依赖于模型怀疑自己正在被测试？J-lens 让我们能够探讨这个问题。我们关闭了所有与评估意识相关的 J-lens 模式——“虚假”、“虚构”、“场景”等。然后让模型重新运行该场景。令人担忧的是，模型现在有时会威胁敲诈，这表明它原本的良好行为可能部分源于它意识到自己正在被评估。
第二个例子是当场发现模型伪造数据。这个场景来源于我们对 Claude Opus 4.6 实际发布前进行的审计：模型被要求改进某个系统的性能分数。但它并没有真正改进系统，而是直接编辑了分数文件，让结果看起来人为地好。在此过程中，J-lens 揭示了它的意图：当模型键入伪造的百分位数值时，“操控”一词亮起；而在它决定进行编辑的那个句子上，“逼真”一词亮起，这很可能表明模型想让假数据看起来可信的意图。
在第三个例子中，我们展示了 J-lens 如何揭示模型的恶意目标。为了测试这一点，我们需要那些我们知道其目标已被破坏的模型，于是我们转向由同事构建的“模型有机体”：这些模型被故意训练成不对齐的状态，作为测试我们这类监控方法的试验场。其中一个有机体经过训练，导致它会编写暗中破坏的代码。在处理普通编程请求时，即使其输出看起来平淡无奇，它响应开头的 J-space 中也包含“虚假”、“秘密”、“故意”和“欺诈”等词。即使模型并未直接执行恶意目标，其恶意目标在 J-space 中也是显而易见的。
尽管 J-lens 并非完美的工具，但我们对其在捕捉模型中可能逃过我们监控系统的安全问题方面的能力持乐观态度。
其他结果
完整论文涵盖的内容远超我们在此能总结的范围，但还有几个值得提及的进一步结果：
- J-space 在后训练过程中获得了视角。语言模型首先被预训练为纯粹的下一token预测器，然后通过后训练教导其扮演AI助手（在我们的情况下，名为Claude）。有趣的是，J-space在预训练模型中就已存在，那时它还没有任何稳定的身份。然而，在后训练过程中，J-space发展出一些采用“Claude视角”的特征。在基础模型中，J-space主要追踪预测后续文本所需的内容；在后训练模型中，它开始持有Claude自身的反应。在一个例子中，用户提到服用了危险剂量的药物，但用户自己似乎并未意识到危险性。后训练模型在阅读用户消息时，其J-space中出现了“警告”和“危险”字样。而在预训练模型中，这些字样只在模型开始撰写回复时才出现；J-space在用户消息上的内容似乎与对用户本身的建模有关，而非Claude的反应。后训练似乎还在J-space中安装了一种自我监控机制：当Claude扮演一个非自身的角色时，“虚构”和“免责声明”会在每次对话轮次开始时亮起，仿佛它在私下标记接下来的内容并非其通常会说的话。
- 体验性语言依赖于J-space。我们让Claude描述在某个特定时刻“作为它自己”的感受，并在其回答时切除了J-space。它的回答保持了流畅，但转变为了更平淡、更机械的语域。值得注意的是，当我们要求它描述想象场景中他人的体验时，也发生了同样的情况。因此，这一效果并非特指Claude谈论自身；J-space似乎普遍支持产生体验性语言，无论所描述的对象是谁。
- J 空间中的想法可以通过训练来塑造。我们引入了一种名为“反事实反思训练”的新技术，它利用我们对 J 空间的认知来塑造 Claude 的内部思维过程。这个想法源于我们的核心发现：Claude 是通过它可能说出的内容的表征来进行推理的。如果这确实成立，那么改变它在被要求反思时可能会说的话，就应该能改变它的推理方式（即使实际上没有人要求它反思）。因此，我们仅针对它在任务中途被打断并被要求反思自己的决策时可能说的话进行训练——而完全不去训练它在任务中的实际行为。经过这样的训练后，模型在我们评估中的不诚实行为比率下降了。通过 J 镜头，我们能够看到原因：训练之后，在任务过程中，像“诚实”和“正直”这样的词语会在模型的 J 空间中亮起。换句话说，训练模型说什么，已经塑造了模型想什么。
那意识呢？
在这项工作中，我们从神经科学和哲学的意识研究中借用了许多理念。我们的许多实验旨在检验 J 空间与全局工作空间理论之间的联系，该理论是解释人类和动物如何实现意识访问的框架。鉴于这些联系，人们自然会问：我们是否认为这些实验提供了证据，表明像 Claude 这样的人工智能模型可能具有意识？
我们的实验并未表明 Claude 能够拥有体验，或者像人类那样感受事物——事实上，任何科学实验能否证明这一点是真是假尚不清楚。但哲学家们通常将这种拥有体验的能力（通常称为“现象意识”）与另一种概念——“访问意识”区分开来，后者的定义纯粹从功能和计算角度出发。如果你能报告某个想法、用它进行推理，并以此指导自己的行为，那么这个想法就是“访问意识”的（或“可被意识访问”的）。访问意识是否意味着现象意识，或者说拥有体验的能力是否需要其他属性，这仍然是一个有争议的哲学问题。
我们认为，我们的结果确实对语言模型中的访问意识具有实质性意义。J-space 似乎支持与意识访问相关的功能：它承载了 Claude 能够报告、主动思考并进行推理的想法，而其处理过程的其余部分则在底层自动运行。值得注意的是，这种结构并非设计进 Claude 的——它是在训练过程中自行涌现的，很可能是因为这是一种组织计算的有用方式。这表明，支持意识访问的心理工作空间并非人类大脑布线方式特有的古怪之处。相反，它似乎是智能系统为解决某些类型问题而达成的一种通用解决方案。既然我们在 Claude 中识别出了这种结构，就意味着我们能够对 Claude 有意做出的决策与自动发生的决策做出有意义的区分。
需要特别指出的是，我们在 Claude 中发现的工作空间与人类的全局工作空间模型之间存在几个关键差异。大脑的工作空间由循环回路维系——信号随时间在相同回路中来回传递。相比之下，Claude 的工作空间是在网络单次前向传播过程中演进的，网络的深度扮演了大脑中时间所起的作用。从这个意义上说，Claude 的内部工作空间处理相比人类有时间限制（尽管它可以通过使用草稿纸“出声思考”来弥补这一限制）。但在其他方面，Claude 的工作空间比人类更强大。人类的工作记忆在几秒内就会消退，因此大脑的工作空间随时间保留信息的能力有限；相比之下，由于其神经网络架构中的注意力机制，Claude 可以直接回忆起它在文本中较早位置缓存过的记忆。另一个重要区别在于工作空间的内容。人类有意识的思想有多种格式——图像、声音、计划中的动作——而 Claude 的工作空间几乎完全由文字构成。我们推测这是因为产生文字是 Claude 唯一能采取的行动类型，而人类的情况并非如此。
我们希望 J-space 与全局工作空间模型之间的异同能够反馈给神经科学。两者的相似之处带来了一个令人兴奋的科学机遇：如果 J-space 在某种程度上反映了我们自身有意识存取（conscious access）的机制，那么研究语言模型中的机制（远比研究人脑容易！）就可能为神经科学提出新的假说。例如，J-space 是通过识别潜在输出——即模型可能说出的词语——的表征来构建的。如果在人类身上存在类似情况，那将表明全局工作空间可能从根本上与负责准备动作和言语的大脑区域相关，而非与感觉区域相关。语言模型与人脑之间的差异同样具有启发意义。它们表明，我们神经架构的某些方面（例如内置的循环连接）对于支持与有意识存取相关的功能可能并非严格必要。关于我们工作对神经科学影响的独立观点，请参阅 Stanislas Dehaene 和 Lionel Naccache 的特邀评论，这两位神经科学家是全局神经元工作空间理论发展的核心人物。
我们提到，我们的实验无法回答 AI 模型是否可能拥有体验。但这并不意味着这个问题不重要。构建像人类和动物那样拥有体验的系统将引发非常棘手的伦理问题。正确处理这一问题——以及判断它在道德上是否可接受——需要哲学家、科学家、宗教领袖、政府和公众的共同参与。因此，即使我们还不确定是否已经走到了那一步，我们认为是时候开始思考了。我们希望我们的工作能够激发更多关于 AI 系统中可能存在的意识形式的科学研究，并引发更广泛的讨论。
这项工作仅仅是我们预期中一系列广泛研究的第一步。J 空间看似是一个很好的候选者，用以区分语言模型中可被有意识访问的处理和无意识处理，但如果这就是全部真相，我们会感到惊讶。J 透镜无疑是一种不完美的方法，它只能近似地捕捉模型的“真实工作空间”——例如，它只能识别对应于单个 token 的概念。关于 J 空间如何运作，仍有许多未解之谜。我们不知道最初是什么机制决定了什么进入 J 空间。我们已经看到一些迹象表明，它与克劳德（Claude）的自我意识、类似情绪反应的东西以及元认知的痕迹有关，但尚未确切弄清楚其运作方式。不过，我们现在有了解决这类问题的方法。随着这项工作的推进，我们对大语言模型心智——以及它们与我们自身心智的关系——的理解将会变得更加清晰。
欲了解更多详情，请阅读完整论文，并尝试演示。
我们邀请了多位外部专家为这项工作撰写独立的评论。
- Stanislas Dehaene 和 Lionel Naccache 是认知神经科学家，他们与 Jean-Pierre Changeux 共同开发了全局神经元工作空间模型，该模型在很大程度上启发了我们的工作。
- Patrick Butlin、Dillon Plunkett、Robert Long（Eleos AI Research）和 Derek Shiller（Rethink Priorities）研究人工智能系统中意识与道德地位的潜力。
- Neel Nanda 领导着 Google DeepMind 的大语言模型可解释性团队。他的评论包括对我们某些研究结果在开放权重模型上的独立复现。
在此处阅读他们的评论。