DeepSeek-V4 发布当天,SGLang 和 Miles 就接好了推理和 RL 训练
SGLang 和 Miles 团队在 DeepSeek-V4 发布当天就完成了推理和强化学习训练的适配,覆盖了 1.6T 参数的 Pro 版和 284B 参数的 Flash 版。V4 模型用了混合稀疏注意力,把滑动窗口和两种 KV 压缩(4:1 或 128:1)混在一起,撑住了 100 万 token 的上下文窗口,专家权重还用了 FP4 精度。
推荐理由:SGLang 和 Miles 在 DeepSeek-V4 发布当天完成推理与强化学习训练适配,覆盖 1.6T 参数 Pro 版和 284B 参数 Flash 版,并披露混合稀疏注意力与 FP4 专家权重等部署细节。