跳到正文
AI HOT 精选

阶跃星辰发了 Step 3.7 Flash,一个 196B 参数的 MoE 模型,主打推理省钱

阶跃星辰Step 3.7 Flash发布,专为高效推理设计

这个模型用了多矩阵分解注意力,把 KV-cache 的占用压到 DeepSeek 同类模型的 22% 左右,显存压力小很多。另外还把注意力和前馈网络解耦,方便在硬件上跑得更顺。模型走 Apache 2.0 协议,已经在 Fireworks AI 上可用,官方说能用来搭智能体应用。不过正文没给出具体跑分和延迟数据,实际效果还得看第三方实测。

推荐理由:阶跃星辰发布 196B 参数的 MoE 模型 Step 3.7 Flash,KV-cache 占用约为 DeepSeek 同类模型的 22%,并采用 Apache 2.0 协议在 Fireworks AI 上线。

读原文 ↗导出 Markdown