NVIDIA 把跑千亿参数大模型的机器塞进了桌面

NVIDIA DGX Spark and DGX Station Power the Latest Open-Source and Frontier Models From the Desktop

NVIDIA 在 CES 上展示了两台桌面设备 DGX Spark 和 DGX Station，能在本地跑 1000 亿到 1 万亿参数的开源模型。DGX Station 有 775GB 的统一内存，可以把模型压缩到 NVFP4 格式，压缩率最高 70%，跑 llama.cpp 时推理速度平均提升 35%。现场还演示了每秒处理 25 万个 token ...

推荐理由：HKR 三项都站得住：桌面跑大模型的 hook 够强，性能数字和演示数据把事实撑住了，而且整件事指向本地开发闭环能不能替代部分云端迭代这个真问题。不过说到底这是英伟达的产品发布，性能证据都来自厂商自己的演示，我会先打个折，所以重要性停在 75 分。