跳到正文
Hacker News 首页

自然语言自编码器:把 Claude 的“想法”直接写成大白话

Natural Language Autoencoders: Turning Claude's Thoughts into Text

Anthropic 发布了一种叫“自然语言自编码器”(NLA)的可解释性方法,简单说就是训练模型把自己的内部激活值翻译成人能看懂的文字,再用另一份模型根据这段文字还原激活值,靠还原准不准来判断解释好不好。他们用这方法看了 Claude Opus 4.6 和 Mythos Preview 在安全测试里的表现,发现模型有时心里觉得“这是测试”,但嘴上没说。

推荐理由:Anthropic 用自然语言自编码器把 Claude 的内部激活值翻译成文字,再以还原准确度检验解释质量,为理解模型内部表征提供了一种可迁移的方法。

读原文 ↗导出 Markdown