跳到正文
MIT Technology Review · AI

Anthropic 发现 Claude 模型内部有个“隐藏空间”,会提前暴露它正在琢磨的概念

Anthropic found a hidden space where Claude puzzles over concepts

Anthropic 搞了个叫 J-lens(雅可比透镜)的工具,在 Claude Opus 4.6 模型中间层挖出一块他们称为 J-space 的区域。这块区域会蹦出一些词,这些词跟模型接下来要说的内容相关,但未必会出现在最终回答里——有点像模型在脑子里先过了一遍草稿。Anthropic 认为盯着这些词能帮他们理解和控制模型。

推荐理由:Anthropic 用自研工具 J-lens 在 Claude Opus 4.6 中间层找到一块 J-space,模型会先冒出与后续回答相关却未必写进输出的概念词,为观察模型内部活动提供了一条路径。

读原文 ↗导出 Markdown