跳到正文
Latent Space

OpenAI 首款推理芯片 Jalapeño 跑分出炉:每瓦性能比 Blackwell 高 1.5–1.9 倍

[AINews] Hot Chips: OpenAI’s Jalapeño, Cerebras CS-5, Groq 3 LPX, Apple M6

OpenAI 在 Hot Chips 37 上公布了自研推理芯片 Jalapeño 的首批实测数据。跟 NVIDIA 的 GB200/GB300 比,Jalapeño 在峰值吞吐量下每瓦能干 1.5 到 1.9 倍的活,端到端延迟低了 1.7 到 3.6 倍,在交互密集的任务上性能高出 2.1 到 4.1 倍。芯片标称功耗 700W,但实际测试中基本没...

推荐理由:OpenAI 在 Hot Chips 上把自研芯片 Jalapeño 的底牌亮了,声称每瓦性能是 GB200/GB300 的 1.5 到 1.9 倍,端到端延迟低了 1.7 到 3.6 倍。这是他们第一次用硬数据证明自研芯片不是画饼,而且确实有竞争力。我会先打个折,因为目前只有 Latent Space 的现场报道,还没看到更完整的第三方验证,但光凭这些数字已经足够让行业里做推理部署的人认真看一眼了。

读原文 ↗导出 Markdown