跳到正文
Hacker News 首页

C2C:让多个大模型直接交换“思考缓存”,比打字快 2.5 倍,准确率还高 3-5%

Cache-to-Cache: Direct Semantic Communication Between Large Language Models

清华大学等机构的研究者提出 Cache-to-Cache(C2C),让大语言模型之间不再通过文本,而是直接投影并融合源模型的 KV-Cache 到目标模型,实现语义传递,并用可学习门控选择受益的目标层。实验显示 C2C 比单个模型平均准确率高 6.4-14.2%,比文本通信范式高约 3.1-5.4%,平均延迟加速 2.5 倍。该论文已被 ICLR'26 收录,代码开源于 thu-nics/C2C。

推荐理由:清华大学等机构提出 C2C,让大模型之间直接投影融合 KV-Cache 传递语义,而非生成中间文本,实验显示准确率高于文本通信约 3.1-5.4% 且延迟加速 2.5 倍。

读原文 ↗导出 Markdown