Claude Code 构建经验:如何围绕提示词缓存设计智能体
Lessons from building Claude Code: Prompt caching is everything
Claude Code 团队分享提示词缓存的工程经验,通过保持请求前缀稳定来降低长会话智能体的延迟与成本。具体做法包括静态内容前置、通过消息更新状态、避免会话中切换模型或增删工具,以及用 defer_loading 延迟加载工具。上下文压缩时复用原会话的系统提示词、工具定义和历史消息,再追加压缩请求以命中缓存;团队也监控缓存命中率,并将异常下降视为事故。
推荐理由:Claude Code 团队把缓存前缀稳定性落实到提示词排序、工具加载和上下文压缩,为长会话智能体提供可迁移的缓存优化方法。