# SpecForge v0.3 发布：把草稿模型训练从主模型上拆下来，还带了一批开源草稿模型

> 原标题：SpecForge v0.3.0 发布：统一解耦与共置投机解码栈，新增开放 SpecBundle 草稿模型

- 来源：AI HOT 精选
- 发布时间：2026-08-04T17:51:09.590Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/48692
- 原文：https://www.lmsys.org/blog/2026-08-04-specforge-v0-3

## 摘要

LMSYS 把 SpecForge 的训练流程拆成了两拨独立资源：打补丁的 SGLang 服务器负责从目标模型抓特征，Mooncake 负责传数据，训练节点只管吃特征训练草稿模型。在 8 张 H20 的测试环境里，3 台服务器加 5 个训练节点的吞吐比之前绑在一起的方案高了约 10%。

## 推荐理由

LMSYS 将 SpecForge 的草稿模型训练拆成抓特征、传数据和训练三拨独立资源，在 8 张 H20 上吞吐比原先绑在一起的方案高约 10%。

## 锐评

8 张 H20 上吞吐高 10%，这个数在推理优化圈里算能看，也就到这儿了。拆开的好处是抓特征和训练不再抢同一批卡，草稿模型训练本来就吃显存和带宽，绑在一起跑谁都跑不满，各管各的，10% 大概就是这么省出来的。

值不值另说。为了这 10% 要多养一套 SGLang 加 Mooncake 的传输链路，运维复杂度上去了。本来就在训 draft model 的团队可以看看，其他人不用凑热闹。
