# 在真实的 Claude Code 会话里，LRU 缓存淘汰策略比很多新论文说的更难打败

> 原标题：LRU is harder to beat than the KV-cache papers suggest

- 来源：Hacker News 首页
- 发布时间：2026-09-10T13:39:11.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/56126
- 原文：https://github.com/gauravapiscean/agentic-kv-cache

## 摘要

这个仓库重放了 393 次真实 Claude Code 会话里的 6.8 万个请求，专门测试那些号称能替代 LRU 的 KV 缓存淘汰新策略。结果发现，很多新方法在论文的标准测试集上看着挺美，一碰到真实 agent 工作流（让模型进业务流程干活）的访问模式就露馅了。正文没给出具体的命中率数字，但核心结论很明确：真实场景下的访问规律跟学术基准差得远，生产...

## 推荐理由

这个仓库没走论文老路，而是拿真实 agent 工作流的访问模式来压测 KV 缓存淘汰策略。393 次会话、6.8 万个请求的规模够看，直接点出很多新方法在学术基准上好看、一上生产就露馅。不过正文没披露具体命中率数字，所以分数先停在 featured 这一档，等有数据再往上调。

## 锐评

这个仓库做了一件论文很少做的事：拿 393 次真实 Claude Code 会话里的 6.8 万个请求来重放，专门测那些号称能替代 LRU 的 KV 缓存淘汰策略。结果很直接——很多新方法在学术基准上看着漂亮，一碰到 agent 工作流的真实访问模式就撑不住了。

正文没给出具体命中率数字，这是个遗憾。但结论本身不意外：学术基准的请求序列往往是静态的、分布均匀的，而真实 agent 场景里模型反复调用工具、来回改代码，访问热点和复用规律完全不同。LRU 虽然简单，在这种乱序、突发、长尾混合的模式下反而稳得住。

还缺两样东西：一是不同策略在真实 trace 上的命中率对比表，哪怕只给相对排序也好；二是这些 trace 本身有没有开源，如果别人不能复现，这个结论就只能当 anecdote 看。