跳到正文
机器之心 · 公众号

马斯克 55 万张英伟达 GPU 的集群,实际有效利用率只有 11%

大型挂机现场:马斯克的55万英伟达GPU,利用率才11%

The Information 的报道说,xAI 手里大概 55 万张英伟达 GPU,但模型浮点运算利用率(MFU)只有 11%,折算下来相当于真正在干活的卡就 6 万张左右。文章把锅甩给了 HBM 显存读写、服务器之间通信、训练时空等和软件栈不统一这几个问题。作为对比,Meta 的利用率是 43%,Google 是 46%。

推荐理由:xAI 约 55 万张英伟达 GPU 的模型浮点运算利用率只有 11%,相当于约 6 万张卡在干活,Meta 和 Google 分别为 43% 和 46%。

读原文 ↗导出 Markdown