跳到正文
TechCrunch · AI

第一批给 GPU 放贷的人,现在把 4 亿美元押在了推理芯片上

Why the first GPU financiers are turning to inference chips in a $400 million deal

做 AI 推理云服务的创业公司 General Compute 从 Upper90 拿到了一笔 4 亿美元的贷款,抵押品不是训练模型用的 GPU,而是专门跑推理的芯片。这笔钱会用来买 SambaNova 的芯片,搭一个只做推理的云。他们的算盘是:用这种芯片跑开源模型,成本比调用最前沿的大模型低得多。不过正文没披露这笔贷款的利率和还款条件。

推荐理由:做 AI 推理云的 General Compute 以推理芯片而非训练 GPU 作抵押,从 Upper90 贷到 4 亿美元买 SambaNova 芯片,其用开源模型压低推理成本的思路是这条的核心。

读原文 ↗导出 Markdown