跳到正文
OpenAI News

OpenAI 首款推理芯片 Jalapeño 实测:每瓦处理量是对比系统的 1.5–1.9 倍,延迟低 1.7–3.6 倍

Jalapeño’s first results show industry-leading speed and efficiency in AI inference

OpenAI 公布了自研推理芯片 Jalapeño 的首批实测数据。在 GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 1T 三个模型上,Jalapeño 峰值吞吐量下每瓦处理量是对比系统的 1.5 到 1.9 倍,端到端延迟低了 1.7 到 3.6 倍。交互式负载下优势更大,达到 2.1 到 4.1 倍。

推荐理由:OpenAI 公布自研推理芯片 Jalapeño 首批实测数据,在三个开源大模型上每瓦处理量达对比系统的 1.5 到 1.9 倍,端到端延迟低 1.7 到 3.6 倍。

读原文 ↗导出 Markdown