跳到正文
Google 研究院

模型说错话,七成以上不是没学过,而是没想起来

Empty shelves or lost keys? Recall is the bottleneck for parametric factuality

Google Research 把模型的事实性错误拆成两类:货架空着(训练时压根没学过)和钥匙丢了(学过但推理时调不出来)。他们用一套叫 SIR 的探测方法,拿训练数据去戳模型内部状态,看正确答案能不能被激活。测了 4 个模型、6 个数据集,结果发现至少 70% 的错误都属于“钥匙丢了”——知识在训练里见过,就是没提取出来。

推荐理由:Google Research 用 SIR 探测方法测了 4 个模型、6 个数据集,发现至少七成事实性错误源于知识学过却调不出来,而非训练时缺失。

读原文 ↗导出 Markdown