Google 提出“训练时检索”：把 RAG 的搜索成本从推理阶段挪到训练阶段

Bypassing inference bottlenecks: Accelerating complex AI search with Retrieve-for-Train

Google Research 发了一篇博客，介绍一种叫 Retrieve-for-Train（R4T）的做法。简单说，就是把 RAG（外挂资料库）里最耗时的实时搜索步骤，从推理时搬到训练时。训练时，系统会提前从已有的搜索索引里，给每个训练样本找好相关文档，直接存进数据集；推理时模型直接用这些预存好的上下文，不用再现场查索引。博客给出的数据是推理延迟降...