跳到正文
NVIDIA 博客

英伟达开源 Nemotron 3 Super:120B 模型只激活 12B 参数,跑 agent 任务吞吐量翻五倍

New NVIDIA Nemotron 3 Super Delivers 5x Higher Throughput for Agentic AI

英伟达发了 Nemotron 3 Super,一个总参数量 120B、但每次推理只激活 12B 参数的混合专家模型。它用了混合 MoE、隐式 MoE 和一次预测多个 token 的技术,上下文窗口拉到 100 万 token。官方说在跑 agent 这类多步骤任务时,吞吐量比之前方案高 5 倍。

推荐理由:英伟达开源 Nemotron 3 Super,总参 120B 但每次推理只激活 12B,并支持 100 万 token 上下文,官方称跑 agent 多步骤任务时吞吐量提升 5 倍。

读原文 ↗导出 Markdown