# DeepSeek-V4 发布当天，SGLang 和 Miles 就接好了推理和 RL 训练

> 原标题：DeepSeek-V4 on Day 0: From Fast Inference to Verified RL with SGLang and Miles

- 来源：Hacker News 首页
- 发布时间：2026-04-25T23:44:05.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/9907
- 原文：https://www.lmsys.org/blog/2026-04-25-deepseek-v4/

## 摘要

SGLang 和 Miles 团队在 DeepSeek-V4 发布当天就完成了推理和强化学习训练的适配，覆盖了 1.6T 参数的 Pro 版和 284B 参数的 Flash 版。V4 模型用了混合稀疏注意力，把滑动窗口和两种 KV 压缩（4:1 或 128:1）混在一起，撑住了 100 万 token 的上下文窗口，专家权重还用了 FP4 精度。

## 推荐理由

SGLang 和 Miles 在 DeepSeek-V4 发布当天完成推理与强化学习训练适配，覆盖 1.6T 参数 Pro 版和 284B 参数 Flash 版，并披露混合稀疏注意力与 FP4 专家权重等部署细节。

## 锐评

128 倍的 KV 压缩拿来撑 100 万 token 上下文，我看算力账单能省下一大截。长文本里显存全耗在 KV cache 上，把压缩比拉到这种倍数，再配上 FP4 权重，1.6T 的模型才能在发布当天被第三方框架接住。SGLang 和 Miles 当天把推理和 RL 训练全打通，感觉这套架构的落地阻力很小，大模型部署的成本门槛又被拽下来了。
