跳到正文
Hacker News 首页

GLM 用十万张国产卡搭了自己的推理基建,两周内吞吐量翻了三倍

GLM Built Its Own Inference Infrastructure

智谱发布技术文章,介绍 GLM-5.3-Flash 在超过 10 万块国产 AI 加速器集群上从零搭建生产级推理服务,全部生产推理均运行于该系统。

推荐理由:智谱在十万多块国产加速器上从零搭建 GLM-5.3-Flash 的生产推理服务,其中大量调试工作由 GLM 驱动的 Infra Agent 完成,展示了大模型参与自身推理基建的一种工程路径。

读原文 ↗导出 Markdown