智谱发布 GLM-5.1 高速版,API 输出冲到每秒 400 个 token
智谱GLM-5.1高速版发布:刷新全球大模型API速度纪录
智谱在 5 月 22 日给部分企业客户开放了 GLM-5.1-highspeed 接口,输出速度标称 400 tokens/s,说是目前大模型厂商里最快的。过去跑得快的模型通常能力会打折,这次智谱声称把旗舰模型的能力和低延迟同时塞进了生产环境。提速主要靠 GLM 团队和 TileRT 团队在三个层面做的系统优化:推理引擎重写了核心路径来提升单卡吞吐。
推荐理由:智谱向部分企业客户开放 GLM-5.1 高速版接口,标称输出速度达每秒 400 个 token,其提速来自推理引擎核心路径重写等系统优化,可用于观察旗舰模型能力与低延迟在生产环境中的取舍。