跳到正文
最佳拍档

Cerebras CS-4 推理芯片:晶圆级 SRAM 让 MoE 模型跑得更快

Cerebras CS-4:性能翻倍​ | WSE-3晶圆级引擎 | AI推理芯片 | 内存带宽 | tokens/s | 流水线并行 | 解耦推理 | MoE混合专家模型 | SRAM架构

Cerebras 发布了 CS-4 推理芯片,号称性能翻倍,靠的是 WSE-3 晶圆级引擎和 SRAM 架构。SRAM 比 HBM 延迟低、带宽高,特别适合 MoE(混合专家)模型——这类模型参数分散,需要频繁访问不同专家,SRAM 能减少等待。芯片还支持流水线并行和解耦推理(把预处理和生成分开跑),理论上能提高吞吐。但正文没披露价格、功耗和实际部署案...

读原文 ↗导出 Markdown