跳到正文
NVIDIA 博客

GTC 上 NVIDIA 用 RTX 电脑和 DGX Spark 跑本地 AI 助手,还发了新模型

GTC Spotlights NVIDIA RTX PCs and DGX Sparks Running Latest Open Models and AI Agents Locally

NVIDIA 在 GTC 上主推两件事:一是让 AI 助手直接在 RTX 电脑和 DGX Spark 小超算上本地跑,不用联网,隐私和 token 成本都省了。DGX Spark 有 128GB 统一内存,能塞下 120B 参数以上的模型。

推荐理由:NVIDIA 在 GTC 上让 AI 助手直接在 RTX 电脑和 DGX Spark 上本地运行,DGX Spark 的 128GB 统一内存可容纳 120B 参数以上模型,隐私与 token 成本是本地推理的两个落点。

读原文 ↗导出 Markdown