跳到正文
Hacker News 首页

给大模型做一次“嗅觉镜子测试”:偷偷改掉它说过的话,看它会不会发现

Do LLMs pass the mirror test?

作者用 Gemma 4 31B 做了一个非正式实验:先让模型正常聊詹姆斯·邦德电影,然后把对话历史里模型自己的回复中所有字母“g”替换成“sg”(比如 Goldfinger 变成 sgoldfinsger),再继续若无其事地聊。前两轮模型完全没反应,照常接话。

推荐理由:作者把模型自己回复里的字母 g 全换成 sg 后继续聊邦德电影,前两轮模型照常接话,到第三轮才在思考链里察觉拼写异常,这一过程展示了模型对自身输出的内部表征。

读原文 ↗导出 Markdown