# 英伟达放出 Nemotron-Labs-Diffusion 模型，用扩散解码把 8B 模型跑到 850 tok/s

> 原标题：Nemotron-Labs-Diffusion from NVIDIA

- 来源：r/LocalLLaMA
- 发布时间：2026-05-19T18:09:52.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/23737
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1thv6du/nemotronlabsdiffusion_from_nvidia/

## 摘要

英伟达发了 Nemotron-Labs-Diffusion 系列，包含 3B、8B 和 14B 三个稠密模型。这组模型同时支持传统的自回归解码和新的扩散并行解码，还带了一种叫 self-speculation 的加速技巧。

## 推荐理由

英伟达发布 Nemotron-Labs-Diffusion 系列，3B 到 14B 三个稠密模型同时支持自回归与扩散并行解码，并加入 self-speculation 加速技巧。

## 锐评

850 tok/s 先当营销看，信源就一条 Reddit 帖，batch size 和测试条件都没给。扩散并行解码一次出多个 token 这个方向我认，自回归一个字一个字往外蹦，延迟确实卡在那。但稠密 8B 在 GB200 上跑出这个速度，跟单卡本地跑是两码事，省钱的场景是实时对话和本地部署，先等技术报告和第三方复现。
