跳到正文
r/LocalLLaMA

ServiceNow 放出一个 15B 模型,一个权重包能切出 8 种速度档位,最快解码吞吐量翻 10 倍

ServiceNow-AI/SuperApriel-15B-Instruct · Hugging Face

ServiceNow 在 Hugging Face 上发了 SuperApriel-15B-Instruct,一个 15B 参数的指令模型。

推荐理由:ServiceNow 发布 15B 指令模型 SuperApriel-15B-Instruct,单个权重包可切出 8 种速度档位,最快解码吞吐量提升 10 倍,部署时能在同一模型内调整延迟与质量的取舍。

读原文 ↗导出 Markdown