跳到正文
TechCrunch · AI

OpenAI 的 Jalapeño 芯片专为大规模快速推理而生,首批跑分出来了

OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show

OpenAI 在 Hot Chips 大会上公布了自研推理芯片 Jalapeño 的第一批测试成绩。在 SemiAnalysis 的 InferenceX 基准测试里,它比当前市面上最强的竞品,每用户能处理的 token 更多,每度电的吞吐量也更高。不过正文没提具体跟谁比,也没给延迟数据。我会先打个折,等第三方实测出来再看。

推荐理由:OpenAI 在 Hot Chips 公布自研推理芯片 Jalapeño 的首批测试成绩,SemiAnalysis 的 InferenceX 基准显示其每用户可处理 token 数和每度电吞吐量均高于当前最强竞品。

读原文 ↗导出 Markdown