GLM 用十万张国产卡搭了自己的推理基建，两周内吞吐量翻了三倍

GLM Built Its Own Inference Infrastructure

智谱把 GLM-5.3-Flash 的推理服务全跑在了十万多张国产 AI 加速卡上。芯片内存小、带宽低、软件生态也不成熟，团队没全靠人堆，而是让 GLM-5.3 自己当“基建 Agent”去定位瓶颈。他们把端到端的稀疏指标拆成内核正确性检查、微基准测试和执行轨迹这些可追溯的细粒度反馈，Agent 就能直接揪出问题在哪。配合张量并行、W8A8 量化、混合...

推荐理由：智谱让 GLM-5.3 自己当 Agent 去调试自家推理基建，跑在十万多张国产卡上，这个切入点本身就很有话题性。技术细节也给得实在，比如把稀疏指标拆成可追溯的细粒度反馈，配合 W8A8 量化，不是那种只讲故事的公关稿。不过正文在关键的性能和稳定性指标上截断了，这点先别太激动，等完整数据出来再判断实际效果。