# SGLang 推理框架完整功能将登陆 Google TPU，由 RadixArk 与 Google Cloud 合作推进

> 原标题：RadixArk 与 Google Cloud 合作，将完整 SGLang 功能引入 TPU

- 来源：AI HOT 精选
- 发布时间：2026-07-30T15:50:35.428Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/47636
- 原文：https://www.lmsys.org/blog/2026-07-30-sglang-google-tpu

## 摘要

SGLang 这个开源推理框架以后能在 Google 的 TPU 上跑了，功能跟 GPU 版对齐。RadixArk 和 Google Cloud 分两步走：现在就可以通过 SGL-JAX 在最新一代 TPU 上跑 Gemma、Qwen、DeepSeek 等模型。

## 推荐理由

SGLang 是生产级推理框架，把它全套功能搬到 TPU 上对部署团队有实际价值。文章给了两条具体路径和已支持的模型，信息扎实。没打更高分是因为这属于基础设施层面的合作，影响面集中在工程圈。

## 锐评

SGLang 上 TPU，对部署团队的实际意义是终于不用为了用 TPU 而换一套推理栈。现在能通过 SGL-JAX 跑 Gemma、Qwen、DeepSeek，功能跟 GPU 版对齐，Google 想让 TPU 在推理侧接住主流开源模型。但分两步走这个节奏，第一步只是能跑，第二步才是完整功能，中间该踩的坑一个不会少。TPU 的性价比一直卡在软件生态上，SGLang 补上这块，对已经在 GCP 上跑推理的团队算个正经利好。
