跳到正文
TechCrunch · AI

OpenAI 的 Jalapeño 芯片专为大规模快速推理而生,首批跑分出来了

OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show

OpenAI 在 Hot Chips 大会上公布了自研推理芯片 Jalapeño 的第一批测试成绩。在 SemiAnalysis 的 InferenceX 基准测试里,它比当前市面上最强的竞品,每用户能处理的 token 更多,每度电的吞吐量也更高。不过正文没提具体跟谁比,也没给延迟数据。我会先打个折,等第三方实测出来再看。

推荐理由:OpenAI 自研推理芯片首次公开基准测试,有 SemiAnalysis 的第三方数据,话题性很强。但正文没提对比对象、没给延迟数据,也没有独立实测验证,所以分数停在 78。

读原文 ↗导出 Markdown