# vLLM 的 transformers 后端现在跑得跟手写原生代码一样快，甚至更快

> 原标题：原生速度的 vLLM transformers 建模后端

- 来源：AI HOT 精选
- 发布时间：2026-07-08T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/43144
- 原文：https://huggingface.co/blog/native-speed-vllm-transformers-backend

## 摘要

HuggingFace 宣布，vLLM 里用 transformers 库当模型后端，吞吐量已经追平甚至超过了 vLLM 手写的原生实现。他们在 Qwen3 的 4B、32B 和 235B MoE 三个模型上做了对比测试，结果都是打平或反超。

## 推荐理由

HuggingFace 在不同规模的 Qwen3 模型上比较 vLLM 两种后端，模型库后端吞吐量均追平或超过手写实现。

## 锐评

transformers 后端追平手写原生实现，对多数人没感觉，对要部署模型的人是实打实的省钱。Qwen3 从 4B 到 235B MoE 三个规模都打平或反超，规模越大越吃这套，不是小模型上的偶然。以前选 vLLM 就得放弃 transformers 那套生态，现在不用二选一，维护成本降一档。这个数我信，HuggingFace 自己跑自己后端，动机上没理由往低了报。
