SGLang 为 816B 开放权重多模态模型 Muse Spark Open 提供 Day-0 支持
SGLang 为 816B 开源多模态 MoE 模型 Muse Spark Open 提供 Day-0 支持
SGLang 为 Muse Spark Open 提供 Day-0 支持,加入序列并行、NVFP4 MegaMoE、多模态处理优化及 DFlash V2 推测解码。
推荐理由:SGLang 将序列并行与 MegaMoE 联用于长提示词预填充,在七档并发测试中将 p90 首 token 延迟降低 28.3–41.9%。