跳到正文
AI HOT 精选

DiffusionGemma:用扩散模型做文本生成,速度比同尺寸自回归模型快4倍

DiffusionGemma:文本生成速度提升4倍的开源扩散模型

Google DeepMind 开源了 DiffusionGemma,一个用扩散模型(就是像画图 AI 那样从噪声里逐步去噪)来生成文字的模型。它不再一个字一个字往外蹦,而是一次性并行去噪出整段文本,所以延迟大幅降低,官方说比同尺寸的自回归模型快 4 倍。权重、代码和训练配方都放上了 Hugging Face。不过正文没披露具体的模型参数量、评测基准和...

推荐理由:Google DeepMind把扩散模型搬到了文本生成上,不是逐词蹦字,而是一次性并行去噪出整段,延迟降了4倍,这个数字挺诱人。全开源,代码和训练配方都有,从业者能直接上手验证。我会先打个折,因为正文没披露模型参数量、具体评测基准,没法判断实际效果和适用范围,但方法本身够新,对做推理优化的人是个强信号。

读原文 ↗导出 Markdown