Grok Bot 泄露:为什么 agent 的系统提示词必须冻住
Grok Bot 泄露:为什么 agent 的 system prompt 必须冻结
社区逆向 Cursor 的桌面 agent Grok Bot 0.18.0 发现,它把系统提示词里的记忆和身份信息冻在压缩边界内,同一个周期里字节完全不变。这么做是为了保住 KV 缓存前缀的命中率:缓存输入每百万 token 0.30 美元,没缓存要 3.00 美元,前缀一变整个缓存就失效。
推荐理由:社区逆向 Cursor 桌面 agent Grok Bot 0.18.0 发现,它把系统提示词里的记忆和身份信息冻在压缩边界内,以保住 KV 缓存前缀命中率,缓存输入每百万 token 0.30 美元,未缓存为 3.00 美元。