# 哈工大华为搞了个免训练加速框架，让扩散大模型推理快4.48倍还不掉精度

> 原标题：提速4.48倍！哈工大华为新框架让扩散大模型精度无损、推理起飞

- 来源：量子位 · 公众号
- 发布时间：2026-05-08T04:05:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/16534
- 原文：https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247889299&idx=3&sn=3dbeb889db6113713a1da897c6f0224f

## 摘要

哈工大深圳、华为和深圳河套学院提出一个叫 Dynamic-dLLM 的框架，不用重新训练就能给扩散大语言模型加速。在 LLaDA-8B-Instruct 上跑 GSM8k 数学题，吞吐量从每秒 8.32 个 token 提到 37.29 个 token，快了 4.48 倍，而且精度几乎没降。

## 推荐理由

哈工大深圳与华为提出免训练加速框架 Dynamic-dLLM，在 LLaDA-8B-Instruct 上把 GSM8k 吞吐量从每秒 8.32 个 token 提到 37.29 个，精度几乎不变。

## 锐评

免训练、4.48 倍、精度不掉，这三个词凑一起我第一反应是看它拿什么换的。GSM8k 上从 8.32 到 37.29 token/s，这个量级在扩散 LLM 上确实够看，扩散模型本来就是靠并行去噪换速度，动态调步数是最省事的路子。

GSM8k 是短链推理，扩散模型的加速比在长输出上通常要缩水，这套东西能不能撑住 agent 那种几千 token 的连续生成，我持怀疑态度。先记着这个数，等有人拿它跑真实负载。
