# 有人在 Windows 上直接用 vLLM 跑 Qwen3.6-27B，单张 RTX 3090 跑到 72 tok/s

> 原标题：Qwen3.6-27B at 72 tok/s on RTX 3090 on Windows using native vLLM (no WSL, no Docker), portable launcher and installer

- 来源：r/LocalLLaMA
- 发布时间：2026-05-02T08:12:35.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/12943
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t1judm/qwen3627b_at_72_toks_on_rtx_3090_on_windows_using/

## 摘要

Reddit 用户 One_Slip1455 发了个原生 Windows 版 vLLM 启动器，不用 WSL 也不用 Docker。在一张 RTX 3090 上跑 Qwen3.6-27B（INT4 量化），短上下文能到 72 tok/s。

## 推荐理由

Reddit 用户发布原生 Windows 版 vLLM 启动器，无需 WSL 或 Docker，在单张 RTX 3090 上以 INT4 量化运行 Qwen3.6-27B，短上下文达到 72 tok/s。

## 锐评

单卡 3090 跑 27B 到 72 tok/s，这个数字比原生 Windows 本身有意思。3090 二手价摆在那，配个 INT4 的 27B 就能当本地推理机用，不用 WSL 不用 Docker 对 Windows 用户是省事，值钱的地方还是速度。72 tok/s 短上下文，长上下文肯定掉，日常问答和写代码够用了。Reddit 单帖，没官方背书，我倾向于信但会自己跑一遍再下结论。反正本地跑 27B 的成本已经低到可以认真考虑了。
