GitHub Copilot 需求太猛,微软自家 Azure GPU 不够用,转头租 AWS 的 Nvidia 芯片来跑推理和微调
Microsoft turns to AWS as GitHub faces AI capacity crunch
Copilot 的用量增长超出了 Azure 能提供的 GPU 供应,微软已经和 AWS 签了协议,租用 Nvidia GPU 来补缺口,主要用在模型推理和微调上。原文没披露具体租了多少张卡、合同金额,也没说什么时候开始迁移。这件事说明 Copilot 的算力需求可能比微软自己预估的要大,但具体大到什么程度、这笔账划不划算,目前还看不到数字。
推荐理由:微软因 Copilot 用量超出 Azure 的 GPU 供应,与 AWS 签约租用 Nvidia 芯片跑推理和微调,其算力需求与自有供给之间的落差由此显现。