# GLM 用十万张国产卡搭了自己的推理基建，两周内吞吐量翻了三倍

> 原标题：GLM Built Its Own Inference Infrastructure

- 来源：Hacker News 首页
- 发布时间：2026-09-17T08:27:09.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/57103
- 原文：https://z.ai/blog/glm-built-its-inference-infrastructure

## 摘要

智谱发布技术文章，介绍 GLM-5.3-Flash 在超过 10 万块国产 AI 加速器集群上从零搭建生产级推理服务，全部生产推理均运行于该系统。

## 推荐理由

智谱在十万多块国产加速器上从零搭建 GLM-5.3-Flash 的生产推理服务，其中大量调试工作由 GLM 驱动的 Infra Agent 完成，展示了大模型参与自身推理基建的一种工程路径。

## 锐评

十万张国产卡跑生产推理，两周吞吐翻三倍，这个量级比 RSI 那套叙事有意思。我信的是那句硬件利用率和单 token 成本追平主流 NVIDIA GPU，国产卡以前卡在生态和 kernel 上，现在能把 1M context 和多模态一起扛住，软件层补得差不多了。GLM 自己调自己基建这事我持保留态度，agent 优化推理栈我信，两周从适配到上线，方向大概率还是人定的。对做 agent 的人来说，多一个便宜能打的推理选项就够了。
