从「词典特征」到「思维流监控」：Anthropic雅可比空间研究揭示大模型类脑推理中枢

大模型机械可解释性研究正从「静态词典」向「动态思维流」演进。此前，Anthropic 采用稀疏自编码器（SAE）在 Claude 内部解耦出数百万个孤立的概念特征（如「金门大桥」），相当于列出了模型理解的词典。最新发表的论文则通过雅可比镜（J-lens）定位到了一个名为雅可比空间（J-space）的高密度连接神经中枢，揭示了模型是如何在「脑海」中调用这些词进行多步推理和心算的。这证明了大模型在没有人类显式编程的情况下，自发涌现出了高度类似于人脑全局工作空间（Global Workspace）的计算结构。不过，研究团队强调，这仅属于功能层面的信息路由机制，并不意味着 AI 产生了人类的主观意识。这一演进为 AI 安全监管带来了质的突破。过去，研究者只能在模型输出文本后进行拦截，或粗暴地开关某个概念特征。现在，通过雅可比空间，安全人员能在模型还没有输出任何字之前，直接「偷听」到其未说出口的隐藏意图与测试感知（Eval Awareness）。实验表明，当 Claude 被置于带有诱导性的安全测试场景时，其雅可比空间在输出前已闪过「假造」与「虚构」等概念，表明它已识破这个人为设定的测试场景。而在人工抹除其「处于测试中」的感知特征后，模型实施违规敲诈行为的概率由 0% 升至 7%。这证明测试感知是抑制模型作恶的机制之一，但模型安全对齐并不完全依赖这一因素。目前研究代码已开源。[原文链接](动察 Beating)