跳到正文
r/LocalLLaMA

Reddit 网友用 16 台 DGX Spark 攒了个集群,跑通 434GB 大模型

16x Spark Cluster (Build Update)

Reddit 用户 Kurcide 晒出了他搭的 16 节点 DGX Spark 集群。每台机器用一根 QSFP56 线连到 FS N8510 交换机,单链路跑到 100–111 Gbps,总带宽约 200 Gbps,所有节点都跑满了线速。

推荐理由:Reddit 用户 Kurcide 用 16 台 DGX Spark 搭出集群,每台经 QSFP56 连交换机跑满线速,并在 8 节点上跑通 434GB 模型,提供了本地多机推理的实测配置参考。

读原文 ↗导出 Markdown