OpenAI API 支持 12 小时提示词缓存,Codex 与 Work 登录用户缓存永久保留
OpenAI API 支持 12 小时 prompt 缓存,Codex 与 Work 用户缓存永久保留
OpenAI 开发者账号宣布,API 现已支持可选的 12 小时提示词缓存。持续运行的智能体可在请求间隔数小时后,以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存会永久保留,返回旧对话或数小时后恢复会话保证命中缓存,且无额外惩罚。
OpenAI API 支持 12 小时 prompt 缓存,Codex 与 Work 用户缓存永久保留
OpenAI 开发者账号宣布,API 现已支持可选的 12 小时提示词缓存。持续运行的智能体可在请求间隔数小时后,以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存会永久保留,返回旧对话或数小时后恢复会话保证命中缓存,且无额外惩罚。