# DiffusionGemma 技术报告：用离散扩散一次生成 256 个 token，单卡跑到每秒 1500 token

> 原标题：DiffusionGemma Technical Report

- 来源：Hacker News 首页
- 发布时间：2026-08-20T13:24:32.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/51828
- 原文：https://arxiv.org/abs/2608.00146

## 摘要

Google 放出了一个实验性的开源模型 DiffusionGemma，它不按传统方式一个字一个字往外蹦，而是每次并行处理并逐步修正一个 256 个 token 的文本块。这带来一个直接好处：在单张 H100 上实测生成速度能达到每秒约 1500 个 token，比用了投机解码的常规自回归模型还快。

## 推荐理由

Google 开源的 DiffusionGemma 用离散扩散并行生成 256 个 token 的文本块，单张 H100 实测约每秒 1500 token，比采用投机解码的常规自回归模型更快。

## 锐评

1500 tok/s 这个数先别当真，扩散模型一次出 256 个 token，快是快在并行，修正过程要跑多少步没写清楚，步数一多实际吞吐就掉下来。卡人的是这种模型能不能接进现有 agent 链路，输出不是流式的，工具调用和增量解析全得重写。Google 放个技术报告出来，更像占坑，离能换掉自回归还早。单卡快不等于单任务便宜，有人拿真实 workload 跑一遍之前，这数我按打折看。
