跳到正文
Hacker News 首页

Nvidia 发布 Nemotron 3.5 Lightning 和 NeMo Switchyard:一个 300 亿参数的小模型,专跑多智能体系统里的专...

Nvidia Nemotron 3.5 lightning and NeMo Switchyard

Nvidia 给 Nemotron 3 系列加了个新模型 Nemotron 3.5 Lightning,300 亿参数,用的是混合专家架构(MoE,把模型拆成多个小专家,每次只激活一部分,省算力)。它不负责统筹全局,而是在多智能体系统里干代码审查、安全告警监控这类专项高并发的活。官方说输出速度比同级模型快 4 倍,跑完一个智能体任务整体快 30%。模型...

推荐理由:Nvidia 这次没走通用大模型的路子,而是发了个 30B 的 MoE 模型 Nemotron 3.5 Lightning,定位是多智能体系统里的专项工人,比如做代码审查、监控安全告警。官方说输出速度比同级模型快 4 倍,跑完一个智能体任务整体快 30%,还开源了调度工具 NeMo Switchyard。我会先打个折——这些数字都来自 Nvidia 自己的博客,没有第三方实测,而且 Nvidia 的模型生态在开发者里的实际采用率远不如几家头部 lab。但“给智能体系统做专项加速”这个思路本身值得关注,对正在搭多智能体工作流的人是个可参考的选项。

读原文 ↗导出 Markdown