Google 发布 DiffusionGemma,用扩散模型做文本生成,速度比同尺寸自回归模型快 4 倍
DiffusionGemma: 4x Faster Text Generation
Google 在官方博客公布了 DiffusionGemma,一个用扩散方法做文本生成的模型。它把图像扩散那套思路搬到文字上——先并行生成整段内容,再通过去噪步骤逐步修整,不像传统模型那样一个字一个字往外蹦。官方说延迟能降到同尺寸自回归模型的四分之一,对实时场景很友好。
推荐理由:Google 公布 DiffusionGemma,把图像扩散的并行生成加去噪思路搬到文本上,官方称延迟降至同尺寸自回归模型的四分之一。