# 谷歌开源 26B 文本扩散 MoE 模型 DiffusionGemma，推理时只激活 3.8B 参数，一次生成 256 个 token

> 原标题：谷歌开源26B文本扩散MoE，劈柴：生成速度像赛马一样快

- 来源：机器之心 · 公众号
- 发布时间：2026-06-11T04:30:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/37748
- 原文：https://mp.weixin.qq.com/s?__biz=MzA3MzI4MjgzMw==&mid=2651038459&idx=2&sn=2f131b7dd31fb1cdacbf16bcb3f312a7

## 摘要

谷歌发了一个实验性的开源模型 DiffusionGemma，用的是 Apache 2.0 协议。它不走自回归模型逐 token 生成的路线，而是一次性起草 256 个 token 的文本块，把解码瓶颈从内存带宽转向了计算本身。在单张 H100 上能跑到每秒 1000+ token，比自回归模型快最多 4 倍。

## 推荐理由

谷歌开源了一个 26B 的文本扩散模型，跳过自回归解码，推理只激活 3.8B 参数，单张 H100 跑到每秒 1000+ token。Apache 2.0 协议，有具体的速度对比和机制说明，对做推理优化的人有直接参考价值。不是公关稿，数字和做法都给了，值得放进精选。

## 锐评

一次出 256 个 token 这个方向挺对，自回归逐字吐的瓶颈本来就在内存带宽上，扩散把这块换成算力，单卡 H100 每秒 1000+ token 快 4 倍，账算得过来。26B 只激活 3.8B，MoE 加扩散叠一起，Apache 2.0 能直接商用，做推理优化的可以拿它当个新基线。只是这速度是谷歌自己报的，256 个 token 的块一旦要改中间某个字，重写整块的代价没人提。
