跳到正文
新智元 · 公众号

Anthropic 用 NLA 把 Claude 脑子里的想法翻译成人话,解释力最高到 80%

Claude脑子里想的,被翻译成人话了!Anthropic新研究看懵人类

Anthropic 发了个叫 NLA(自然语言自编码器)的新研究,能把 Claude 模型内部的激活向量直接转成自然语言。在 Opus 4.6 上,NLA 对激活模式的解释方差能到 60% 到 80%,也就是能说清楚模型当时在想什么的比例。

推荐理由:Anthropic 发布 NLA 研究,把 Claude 内部激活向量直接转成自然语言,在 Opus 4.6 上对激活模式的解释方差达 60% 到 80%,为理解模型内部状态提供了一种可量化的路径。

读原文 ↗导出 Markdown