# 用 vLLM 在两台 NVIDIA DGX Station 上以 607.8 tok/s 服务 GLM-5.3

> 原标题：Serving GLM-5.3 at 607.8 tok/s across two Nvidia DGX stations with vLLM

- 来源：Hacker News 首页
- 发布时间：2026-11-14T14:09:25.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/gdygl0bd89o1i0a8gnjvsjw6z
- 原文：https://developer.nvidia.com/blog/when-one-gpu-isnt-enough-serving-glm-5-3-across-two-nvidia-dgx-stations-with-vllm/

## 摘要

NVIDIA 用两台通过 ConnectX-8 RDMA 互联的 DGX Station，以 vLLM 张量并行（TP=2）在单端点本地服务 753B 参数的 GLM-5.3 NVFP4 模型，实现 607.8 tok/s 吞吐。
