# 英伟达放出 Nemotron-3-Ultra 超大 MoE 模型，550B 总参数但只激活 55B，最低要 8 张 H200 才能跑

> 原标题：nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 · Hugging Face

- 来源：r/LocalLLaMA
- 发布时间：2026-06-04T11:48:19.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/34292
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1twla1k/nvidianvidianemotron3ultra550ba55bbf16_hugging/

## 摘要

英伟达在 Hugging Face 上发布了 Nemotron-3-Ultra-550B-A55B-BF16，一个混合专家（MoE）模型。总参数量 550B，但每次推理只激活其中 55B 参数，相当于用 55B 模型的算力去撬动大得多的知识容量。上下文窗口拉到 1M token，能一口气处理很长的文档。

## 推荐理由

英伟达发布 Nemotron-3-Ultra，550B 总参数每次只激活 55B，上下文窗口达 1M token，最低需 8 张 H200 才能运行。

## 锐评

8 张 H200 才能跑，这个门槛比 550B 参数本身有意思。55B 激活听着省，可权重还是得全塞进显存，BF16 下 550B 差不多 1.1TB，8 张 H200 的 141GB 加起来刚够，基本没给 KV cache 留多少余量，1M context 想真跑起来还得往上加卡。所以这模型跟本地部署的绝大多数人没关系，英伟达放它出来更像是给自家硬件做展示。没有 benchmark 之前，参数和上下文长度都说明不了推理质量，先看别人跑分。
