跳到正文
AI HOT 精选

OpenAI 给 GPT-6 的提示词缓存加了命中率仪表盘和诊断工具,默认就能省更多钱

OpenAI 为 GPT-6 推出改进的提示词缓存系统与诊断工具

GPT-6 的提示词缓存现在默认命中率更高,只要 30 分钟内复用相同的前缀内容就能拿到折扣。新上线的仪表盘可以看缓存的命中率走势,诊断工具能告诉你哪次没命中是因为工具定义变了、具体浪费了多少 token(比如一次 tools_changed 就丢了 5,629 个 token)。开发者现在可以手动设缓存断点、在不破坏缓存的前提下调整推理强度,还能提前...

推荐理由:这是 OpenAI 官方发的 GPT-6 缓存改进,不是新模型,但诊断仪表盘和手动断点对 agent 开发者是实打实的成本优化。给了 30 分钟复用窗口、5,629 token 浪费等具体数字,信息量够,所以重要性给 82,放在 featured 里。

读原文 ↗导出 Markdown