跳到正文
OpenAI News

OpenAI 给 Responses API 加了 WebSocket,让 Codex 这类 agent 跑起来更快

Speeding up agentic workflows with WebSockets in the Responses API

OpenAI 发现,当模型推理速度从每秒 65 个 token 飙到近 1000 个 token 时,API 本身的处理开销反而成了拖慢 agent 循环的瓶颈。

推荐理由:OpenAI 为 Responses API 加入 WebSocket 长连接与连接级缓存,针对模型推理提速后 API 处理开销成为 agent 循环瓶颈的情况,减少反复建连与重复请求的成本。

读原文 ↗导出 Markdown