Google 发布基于 TorchTPU 的 vLLM 与 SGLang 原生推理引擎

Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎

Google 发布基于 TorchTPU 的 vLLM 与 SGLang 原生 PyTorch 推理后端，分别与 Inferact 和 RadixArk 联合开发。