跳到正文
Hacker News 首页

Anthropic 在 Claude 内部发现了一个“全局工作空间”,模型用它做无声推理

A global workspace in language models

Anthropic 用一种叫 J-lens(雅可比透镜)的方法,在 Claude 内部找到了一组特殊的神经活动模式,命名为 J-space。每个模式对应一个词,但亮起来不代表模型要说这个词,而是它在“想”这个词。J-space 有四个关键特征:Claude 能报告自己在想什么;能按指令调整想法;做多步推理时,中间步骤会在这里亮起,哪怕没说出来;这些表征...

推荐理由:Anthropic 这篇论文用雅可比透镜在 Claude 内部挖出一个叫 J-space 的全局工作空间,四个特征都做了实验验证,是把认知科学概念落地到具体模型里的一次硬核尝试。HKR 全中。没给 95 以上是因为它还是研究论文,不是产品发布,实际影响有待观察。

读原文 ↗导出 Markdown