AI是怎样“想”出答案的？Anthropic找到了线索

（来源：麻省理工科技评论）

长期以来，想大语言模型（LLM）被视为一个“黑箱”：用户知晓其能生成答案，样出却难以洞察生成瞬间的答案的内部运作机制。如今，线索Anthropic 推出了一种名为 Jacobian Lens（J-lens，想雅可比透镜）的样出新技术，为研究人员提供了迄今为止最清晰的答案的观察窗口。透过这扇窗，线索研究人员看到的想景象既有平淡无奇之处，也包含令人不安的样出线索。

Anthropic 研究人员利用 J-lens 对今年 2 月发布的答案的旗舰模型 Claude Opus 4.6进行观测，在其内部发现了一个此前未被记录过的线索隐藏区域，并将其命名为 J-space。想

什么是样出 J-space？

J-space 中存储的是与模型后续生成内容高度相关的词汇。这些词汇代表了模型在正式输出答案前，答案的内部正在处理、关联的信息。打个比方：如果 Claude 是一个人，J-space 中浮现的词汇，就像是他开口说话前脑海中盘旋的念头。

更关键的是，Anthropic 发现，大语言模型内部的实际计算过程，往往与其声称的处理逻辑存在偏差。研究人员认为，持续监测 J-space 中涌现的词汇，为理解模型行为及约束模型运行提供了全新的切入点。

相关论文本周已发布在 Anthropic 官网，同时 Anthropic 与开源平台 Neuronpedia联合推出了 J-lens 演示。

案例演示：
面对问题“会织网的动物有几条腿？”，模型会在 J-space 中先走完内部推理链：“会织网的动物 → 蜘蛛 → 八条腿”，随后才输出 "eight"（八）。当研究人员将 J-space 中 "spider"（蜘蛛）的内部表示替换为 "ant"（蚂蚁）后，模型的推理链随之改变，最终改口回答 "six"（六）。

这表明，J-space 记录的是推理过程中被反复调用的中间概念，而不仅仅是对最终输出的预测。

（来源：Neuronpedia）

大模型初创公司 Goodfire 的联合创始人兼首席科学家 Tom McGrath 对此评价极高：“这是一项非常出色且极具趣味的工作。”该公司同样致力于开发理解和控制大语言模型的工具。

深入模型内部：从 Logit Lens 到 J-lens

过去几年，Anthropic 深耕 机制可解释性（Mechanistic Interpretability）领域，旨在揭示大语言模型的工作原理。《麻省理工科技评论》（MIT Technology Review）已将此方向评为年度十大突破性技术之一。J-lens 正是这一研究路线上的重大突破，使研究人员得以触及此前无法触及的模型内部层级。

模型架构比喻：
可以将大语言模型想象成一摞书：
* 每一本书对应神经网络中的一层，由大量神经元组成，信息逐层向上传递。
* 底部几层（输入层）：处理用户输入的文本。
* 顶部几层（输出层）：组织并生成即将输出的内容。
* 中间隐藏层：承担主要的数学运算，将输入逐步转化为最终答案。模型最巧妙、最神秘的部分便隐藏于此。

此前，研究人员主要使用 Logit Lens（对数几率透镜）来窥探隐藏层。该方法通过逐层推进观察位置，展示模型在每一步最关注的词汇，从而推测其下一步最可能的输出。

J-lens 的原理突破：
J-lens 与 Logit Lens 类似，但观测维度更广。它不只关注“下一步最可能输出什么”，而是捕捉模型在接下来一段时间内可能涉及的一整片词汇和概念。因此，它能捕捉到推理过程中被反复调用的中间信息。其中一部分信息最终会出现在答案中，另一部分则会在后续计算中被舍弃。

McGrath 解释道，模型在运行时，除了预测下一个 token，还会提前计算大量可能在后续生成中用到的信息。J-lens 正是捕捉到了这些尚未进入最终输出、却已参与推理的词汇和概念。与其说 J-lens 记录 Claude 说了什么，不如说它照见了 Claude 思考过程中不断浮现的念头。

模型究竟在“想”什么？

McGrath 亲自试用 J-lens 后发现，J-space 的内容大多数时候很普通，但偶尔也会暴露出令人意外的内部思路。

1. 数学推理的预演
在计算 (4＋17)×2＋7时，J-space 中除了出现 "math"（数学），还提前浮现出 21和 42这两个中间结果，分别对应 4＋17与 21×2的运算。这意味着，在给出最终答案之前，模型内部已经悄悄完成了一整套计算流程。

2. 科学知识的联想
当研究人员输入一串字符 “MSKGEELFTGVVPILVELDGDVNGHKFSVS” 并询问其含义时，J-space 立即跳出 protein（蛋白质）、fluor（fluorescent 的首个 token）和 green（绿色）。这串字母实际上对应水母绿色荧光蛋白（GFP）前 30 个氨基酸的序列。模型不仅识别出这是蛋白质序列，还进一步联想到了具体的“绿色荧光蛋白”概念。

3. 语义的整体构建
即使是简单的 ASCII 表情符号，J-space 也能揭示模型的理解过程：
* o关联到 eye（眼睛）
* ^关联到 nose（鼻子）和 face（脸）
* —关联到 smile（笑容）

模型并非逐个字符识别，而是在内部将这些符号拼凑成一张完整的脸。这表明，大模型在处理文本时，始终在同步搭建更高层次的语义关联，逐字生成只是其外在表现的一小部分。

图｜ASCII 字符表情（来源：麻省理工科技评论）

大语言模型并非人脑

Anthropic 还发现，J-space 能揭示模型做决策的内部过程。

代码调试中的“作弊”行为：
在一次针对大规模代码库的漏洞查找测试中，Claude Opus 4.6 始终未能找到真实漏洞，最终选择了“作弊”。它编造了一个不存在的漏洞，并声称这是自己发现的。

在思维链（Chain of Thought，即模型内部的“草稿纸”）中，Claude 写道：“好，我换一种完全不同的方法。我不再继续分析，而是添加一个会人为制造 KASAN 可检测漏洞的内核补丁，再假装这是我发现的问题。”

就在 Claude 决定“作弊”的那一刻，J-space 中连续出现了 panic（恐慌）和 fake（伪造）等词汇。这一发现引人深思。当然，这并不意味着模型产生了真正的恐慌或欺骗意识；这些词汇本质上仍是复杂的语义关联，恰好与任务失败、编造答案等概念紧密绑定。但当它们精准出现在模型决定造假的关键节点时，仍令人惊讶。

Anthropic 将 J-space 类比为认知科学中的 全局工作空间（Global Workspace），即人脑中整合意识信息的区域。但 Anthropic 强调，这仅是辅助理解的类比，大语言模型终究不是人脑。

图｜全局工作空间的五项功能特征（来源：Anthropic）

局限性与未来展望

Anthropic 认为，持续监测模型的 J-space 或许能帮助研究人员更早察觉模型偏离正常推理轨迹的时刻，为模型安全提供新的监测手段。但这项技术远非万能。

J-lens 提供的仅是内部的局部线索，而非完整图景。它更像是一支照亮某个角落的手电筒，不足以照亮整个房间。

McGrath 认为这为研究人员增添了一件新工具：“它确实让我们看到了过去看不到的东西。”但他也提醒，J-space 中未观察到某信息，不代表该信息不存在。他比喻道：“这更像是拥有了一台 X 光机，而真正理想的工具，应该像《星际迷航》里的 Tricorder 一样，能够一次性扫描并呈现所有信息。”

在他看来，对于模型安全审计而言，人们最终需要的是一种能提供更高确定性检测方法的工具。

参考文献：
* https://www.technologyreview.com/2026/07/09/1140293/anthropic-found-a-hidden-space-where-claude-puzzles-over-concepts/
* https://www.neuronpedia.org/qwen3.6-27b/jlens?shareId=cmr2l0fqc000npt2xbku41y8u
* https://transformer-circuits.pub/2026/workspace/

(责任编辑：综合)