跳到正文
Hacker News 首页

LLM 能察觉自己脑子里在想什么吗?这篇论文直接往模型内部塞概念来测试

Emergent Introspective Awareness in Large Language Models

Jack Lindsey 没走对话测试的老路,而是直接把已知概念的向量表示注入模型内部激活值,看模型能不能自己报告出来。Claude Opus 4 和 4.1 在多数实验里表现最好:它们能发现被注入的概念,能回忆之前的状态,还能区分自己生成的输出和人类写的预填充文本。

推荐理由:Jack Lindsey 把已知概念向量注入模型内部激活值,测试模型能否自行报告,Claude Opus 4 和 4.1 在检测注入概念、回忆先前状态和区分自产与预填文本上表现最好。

读原文 ↗导出 Markdown