# LMSYS 发布 DFlash 投机解码，Qwen 3.5 397B 吞吐量提升 4.3 倍

> 原标题：下一代投机解码：DFlash 与 Spec V2

- 来源：AI HOT 精选
- 发布时间：2026-06-15T17:25:17.048Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/38450
- 原文：https://www.lmsys.org/blog/2026-06-15-next-generation-speculative-decoding-dflash-v2

## 摘要

LMSYS 联合 Z Lab 和 Modal 推出了 DFlash 投机解码方案，搭配新的 Spec V2 引擎。DFlash 不用传统草稿模型一个词一个词地猜，而是用“块扩散”一次并行生成一整块候选词，更贴合 GPU 的胃口。

## 推荐理由

LMSYS、Z Lab 和 Modal 联合放出了 DFlash + Spec V2，核心卖点是 KV 注入加块扩散并行草稿，推理加速有具体机制和代码落地。但这是纯底层推理优化，对非推理方向的读者吸引力有限，所以不推全站。

## 锐评

4.3 倍这个数挺唬人，但投机解码的加速比从来都是看场景的，batch 小、序列短的时候收益最漂亮，真上生产高并发能剩多少不好说。块扩散一次并行出一整块候选词这个思路是对的，传统草稿模型一个词一个词猜，GPU 利用率本来就浪费。LMSYS 加 Z Lab 加 Modal 这个组合，代码应该能跑，不是纯论文。反正推理优化这块，能省的就是 token 成本，实测数据出来之前这个倍数先当上限看。
