如何从零搭一个扩散语言模型:从掩码扩散到能用的 LLM
How to build a diffusion language model
这是一篇技术路线图,不是模型发布报告。它把 2025–2026 年冒出来的扩散大模型(Mercury 2、Gemma Diffusion、Nemotron Diffusion)背后的原理串了一遍。核心思路是让模型先生成一整段粗糙文本,再像修图一样分几步并行打磨,而不是一个字一个字往外蹦。文章从最基础的掩码扩散讲起,一路拆解了怎么用块扩散控制生成长度、编...
How to build a diffusion language model
这是一篇技术路线图,不是模型发布报告。它把 2025–2026 年冒出来的扩散大模型(Mercury 2、Gemma Diffusion、Nemotron Diffusion)背后的原理串了一遍。核心思路是让模型先生成一整段粗糙文本,再像修图一样分几步并行打磨,而不是一个字一个字往外蹦。文章从最基础的掩码扩散讲起,一路拆解了怎么用块扩散控制生成长度、编...