# 在真实的 Claude Code 会话里，LRU 缓存淘汰策略比很多新论文说的更难打败

> 原标题：LRU is harder to beat than the KV-cache papers suggest

- 来源：Hacker News 首页
- 发布时间：2026-09-10T13:39:11.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/56126
- 原文：https://github.com/gauravapiscean/agentic-kv-cache

## 摘要

作者用前缀缓存模拟器回放 393 个真实 Claude Code 会话的 68,266 条请求和 23,608 条 Mooncake 请求，尝试三种方式击败生产基线均未成功。作者称在容量压力下，大部分重算来自相隔数秒的工具调用循环，而非会话空闲超过 TTL，5 分钟 TTL 在容量压力下从未触发。仓库可通过 make setup data repro 从冷检出复现全部结果。

## 推荐理由

作者用 393 个真实 Claude Code 会话的 6.8 万条请求回放前缀缓存，三种击败生产基线的尝试均未成功，并指出容量压力下的重算主要来自相隔数秒的工具调用循环。

## 锐评

LRU 在真实 agent 会话里打不过，这个结论我信。68,266 条请求、393 个 Claude Code 会话，重算的大头是相隔几秒的工具调用循环，5 分钟 TTL 在容量压力下压根没触发过。这个观察比论文里那些合成 trace 值钱多了，淘汰策略要盯的是几秒级的工具调用节奏，分钟级的会话生命周期不是重点。

仓库只给了结论，没给具体命中率数字，先当个方向看。真在生产里调 KV 缓存，先把工具调用间隔的分布打出来。
