# Qwen3.6-27B 在单张 RTX 3090 上跑到 21.8 万上下文，工具调用也稳了

> 原标题：Follow-up: Qwen3.6-27B on 1× RTX 3090 — pushing to ~218K context + ~50–66 TPS, tool calls now stable (PN12 fix)

- 来源：r/LocalLLaMA
- 发布时间：2026-04-30T20:20:21.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/12268
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t07su1/followup_qwen3627b_on_1_rtx_3090_pushing_to_218k/

## 摘要

一位 Reddit 用户用一张 24GB 显存的 RTX 3090 跑 Qwen3.6-27B（一个 270 亿参数的模型），把上下文窗口推到了约 21.8 万个 token，生成速度在每秒 50 到 66 个 token 之间。

## 推荐理由

一位 Reddit 用户用单张 24GB 的 RTX 3090 把 Qwen3.6-27B 的上下文推到约 21.8 万 token，生成速度每秒 50 到 66 个 token，并修复了工具调用的显存溢出问题。

## 锐评

21.8 万上下文塞进 24G 显存，这个数字比模型本身有意思。卡住本地长上下文 agent 的一直是 KV cache 那点显存，3090 能扛住，量化加 offload 这套组合拳已经挺成熟了。50 到 66 TPS 够用，25K 的工具调用不 OOM 更实在，那个位置一崩前面全白搭。

50 到 60K 附近还有第二个断崖，这个坑得记着，别以为能一路平推到 200K。个人实测比官方 benchmark 可信，至少翻车的地方人家也写了。
