跳到正文
Google 研究院

Google 发现让模型先想一会儿,能把它训练时记住但平时想不起来的知识挖出来

Thinking to recall: How reasoning unlocks parametric knowledge in LLMs

这篇博客讲的是推理如何帮大模型从自己的参数里“回忆”事实。他们拿 Gemini 2.5 Pro 在 Natural Questions 上测,不给推理机会时准确率大概 40%,让它先思考再回答,准确率直接跳到 70% 以上。提升不是靠外挂资料库,而是模型在推理过程中把模糊的记忆碎片串成可验证的链条,推理步骤里经常出现自我提问和事实核查。目前只在问答任务...

推荐理由:Google Research 这篇机制研究有实打实的数字,讲清了推理怎么帮模型从参数里挖事实,40% 到 70% 的跳升很直观。但只在 Natural Questions 上测了,正文没提其他任务或模型的表现,所以分数先打到这里。对做 RAG 和评估的人是个参考,别急着当通用结论。

读原文 ↗导出 Markdown