跳到正文
r/LocalLLaMA

StepFun 3.7 Flash:196B 总参数、11B 激活的 MoE 模型,带 1.8B 视觉模块,能在 128GB 内存的本地机器上跑

StepFun 3.7 Flash

StepFun 放出了 Step 3.7 Flash,一个混合专家(MoE)模型,总参数量 196B,但每次推理只激活 11B 参数,所以对算力要求没那么夸张。它内置了一个 1.8B 参数的视觉 Transformer(ViT),可以直接处理图像输入。官方说这个模型能在配备 128GB 内存的本地环境里运行,不用非得连云端。

推荐理由:StepFun 发布 Step 3.7 Flash,196B 总参数只激活 11B,还带 1.8B 视觉模块,官方称可在 128GB 内存的本地机器上运行。

读原文 ↗导出 Markdown