Grok Bot 泄露:为什么 agent 的系统提示词必须冻住
Grok Bot 泄露:为什么 agent 的 system prompt 必须冻结
社区逆向 Cursor 的桌面 agent Grok Bot 0.18.0 发现,它把系统提示词里的记忆和身份信息冻在压缩边界内,同一个周期里字节完全不变。这么做是为了保住 KV 缓存前缀的命中率:缓存输入每百万 token 0.30 美元,没缓存要 3.00 美元,前缀一变整个缓存就失效。Manus 在 2025 年的 Context Enginee...
推荐理由:社区逆向 Cursor 桌面端 agent 的源码,发现它用冻结系统提示词的方式来保住 KV 缓存前缀命中率,从而把推理成本从每百万 token 3 美元压到 0.3 美元。这个发现和 Manus 2025 年 Context Engineering 的文章互相印证,说明这不是某个团队的奇技淫巧,而是硬件成本倒逼出来的设计约束。我会先打个折:正文没披露 Grok Bot 具体在哪些任务上跑、缓存命中率实际稳不稳,但两个独立团队撞上同一个结论,这个信号本身就值得从业者重视。