DiffusionGemma 技术报告：用离散扩散一次生成 256 个 token，单卡跑到每秒 1500 token

DiffusionGemma Technical Report

Google 放出了一个实验性的开源模型 DiffusionGemma，它不按传统方式一个字一个字往外蹦，而是每次并行处理并逐步修正一个 256 个 token 的文本块。这带来一个直接好处：在单张 H100 上实测生成速度能达到每秒约 1500 个 token，比用了投机解码的常规自回归模型还快。模型本身不是从头训练的，而是拿 MoE 架构的 Gem...

推荐理由：DiffusionGemma 把扩散模型用到文本生成上，一次并行处理 256 个 token 再逐步修正，单卡 H100 跑到约 1500 tok/s，比投机解码还快。没给更高分是因为目前只是技术报告，没有产品落地路径，也没真实部署数据，速度数字我会先打个折看后续验证。