跳到正文
热点事件历史事件

Google 提出“训练时检索”:把 RAG 的搜索成本从推理阶段挪到训练阶段

1 篇报道1 个报道来源9 天前更新

先了解这件事

事实说明

Google Research 发了一篇博客,介绍一种叫 Retrieve-for-Train(R4T)的做法。简单说,就是把 RAG(外挂资料库)里最耗时的实时搜索步骤,从推理时搬到训练时。训练时,系统会提前从已有的搜索索引里,给每个训练样本找好相关文档,直接存进数据集;推理时模型直接用这些预存好的上下文,不用再现场查索引。博客给出的数据是推理延迟降...

报道时间线

沿着报道,了解事件的不同侧面。

9月16日
  1. Google 研究院
    Google 提出“训练时检索”:把 RAG 的搜索成本从推理阶段挪到训练阶段

    Google Research 发了一篇博客,介绍一种叫 Retrieve-for-Train(R4T)的做法。简单说,就是把 RAG(外挂资料库)里最耗时的实时搜索步骤,从推理时搬到训练时。训练时,系统会提前从已有的搜索索引里,给每个训练样本找好相关文档,直接存进数据集;推理时模型直接用这些预存好的上下文,不用再现场查索引。博客给出的数据是推理延迟降...