# SGLang 和 Miles 在发布当天就接住了月之暗面 2.8 万亿参数 Kimi K3 模型

> 原标题：SGLang 和 Miles 为月之暗面 2.8T 参数 Kimi K3 模型提供发布当日支持

- 来源：AI HOT 精选
- 发布时间：2026-07-27T17:50:17.260Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/46958
- 原文：https://www.lmsys.org/blog/2026-07-27-kimi-k3-day0-support

## 摘要

Kimi K3 是个 2.8 万亿参数的混合模型，架构上把大多数推理框架的默认假设都打破了。SGLang 和 NVIDIA 合作，在发布当天就搞定了推理支持，Miles 则负责强化学习训练。核心工作包括：为 KDA 线性注意力和 MLA 这两种状态重写了内存管理，让那个会自我覆盖的循环状态也能用上前缀缓存和投机解码。

## 推荐理由

SGLang 与 NVIDIA 在 Kimi K3 发布当天完成 2.8 万亿参数模型的推理支持，Miles 承担强化学习训练，并公开了 KDA 线性注意力与 MLA 的内存管理改法。

## 锐评

2.8 万亿参数的 MoE 发布当天就有推理支持，这个速度比模型本身更值得看。KDA 线性注意力加 MLA 两套状态，循环状态还会自我覆盖，前缀缓存和投机解码的默认假设全被推翻，SGLang 得重写内存管理才接得住。这种活一般要几周，当天搞定，权重和结构多半提前给了合作方。对做 agent 的人来说，能不能跑起来是一回事，单位 token 成本是另一回事，2.8T 的激活参数没公布，账单先别算。
