Qwen 3.6 27B 在 24G 显存上的部署实测：后端、量化方案与参数对比

Qwen 3.6 27B on 24GB VRAM setup: backend comparisons, quant choice and settings (llama.cpp, ik_llama.cpp, BeeLlama, vllm)

作者用一张 RTX 3090 24GB 跑 Qwen 3.6 27B，最终留用了 ik_llama.cpp 搭配 Qwen3.6-27B-MTP-IQ4_KS.gguf 这个量化版本。在 156k 上下文、q8_0 KV 缓存并开启 MTP 的设置下，输入约 5900 token 的提示、生成 1024 token 时，预填充速度约 1261 tok/...

推荐理由：这是一篇个人实测，不是官方发布，所以传播面窄一些，但信息密度很高。作者在单张 3090 上把 Qwen 3.6 27B 压进 24GB 显存，还跑通了 156k 上下文，最终选了 ik_llama.cpp 加 IQ4_KS 量化。prefill 能到 1261 tok/s，decode 72.9 tok/s，对本地部署来说相当可用。后端对比部分把 llama.cpp 系和 vllm 的取舍讲清楚了，对想自己搭推理服务的人有直接参考价值。我会先打个折：这只是单人单卡的一次测试，没有多卡、没有生产环境压测，但作为选型参考够用了。