# 双卡 RTX 5060 Ti 16GB 跑通 Qwen3.6 27B，vLLM 下跑到约 60 tok/s，支持 204K 上下文

> 原标题：Qwen3.6 27B on dual RTX 5060 Ti 16GB with vLLM: ~60 tok/s, 204k context working

- 来源：r/LocalLLaMA
- 发布时间：2026-04-29T08:40:46.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/11704
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1sysyz2/qwen36_27b_on_dual_rtx_5060_ti_16gb_with_vllm_60/

## 摘要

一位用户用两张 RTX 5060 Ti 16GB 显卡，通过 vLLM 部署了 Qwen3.6 27B 模型。实测在 8K 上下文时生成速度约 62–66 tok/s，两张卡共占用 32GB 显存。配置上开了张量并行（TP=2）、fp8 KV 缓存、多 token 预测（MTP 一次猜 3 个 token），并把上下文窗口拉到了 204800。

## 推荐理由

一位用户用两张 RTX 5060 Ti 16GB 通过 vLLM 部署 Qwen3.6 27B，实测 8K 上下文生成约 62–66 tok/s，并列出张量并行、fp8 KV 缓存与 MTP 等具体配置。

## 锐评

两张 5060 Ti 凑 32GB 跑 27B 到 60 tok/s，这个数字比卡本身有意思。卡住本地部署的一直是显存，两张 16GB 加起来刚好把权重和 KV 塞进去，fp8 KV 缓存和 MTP 各让一步，才换来 204K 上下文。这套配置的账很清楚，两张 5060 Ti 的钱换一个能跑 27B 的本地盒子，比单张 5090 划算。想上 27B 又不想买专业卡的，这个组合可以直接抄。
