Anthropic 在 Claude 内部发现了一个“全局工作空间”,模型用它做无声推理
A global workspace in language models
Anthropic 用一种叫 J-lens(雅可比透镜)的方法,在 Claude 内部找到了一组特殊的神经活动模式,命名为 J-space。每个模式对应一个词,但亮起来不代表模型要说这个词,而是它在“想”这个词。J-space 有四个关键特征:Claude 能报告自己在想什么;能按指令调整想法;做多步推理时,中间步骤会在这里亮起,哪怕没说出来。
推荐理由:Anthropic 用雅可比透镜定位 Claude 未说出的推理中间步骤,为研究模型内部思考提供了神经活动层面的分析路径。