# SGLang 接入 DSpark 推测解码：让草稿模型自己决定每次验证几个 token

> 原标题：SGLang 集成 DSpark 推测解码：置信度驱动的可变长度验证

- 来源：AI HOT 精选
- 发布时间：2026-07-06T17:11:47.280Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/42736
- 原文：https://www.lmsys.org/blog/2026-07-06-dspark-sglang

## 摘要

LMSYS 把 DSpark 推测解码做进了 SGLang 推理引擎。和以前固定验证一整块 token 不同，DSpark 的草稿模型自带一个“信心打分器”，能算出每个 token 被主模型接受的概率，调度器再根据这个分数动态决定每轮实际验证几个 token——分数低的请求就少验几个，省下算力。

## 推荐理由

LMSYS 将 DSpark 接入 SGLang，按草稿模型的置信度缩短低接受概率请求的验证长度以节省算力。

## 锐评

推测解码的验证开销被 DSpark 换了个思路，草稿模型自己给每个 token 打接受概率，调度器按分数决定这轮验几个，低分请求少验，省的是主模型的算力。固定块长在难样本上就是白烧卡，这个动态做法合理。LMSYS 直接做进 SGLang 还给了 H200 实测，落地比论文值钱。收益全看草稿模型打分准不准，打高了照样白验，打低了加速比掉。这条只有标题和摘要，具体数字没看到，先不下结论。
