# Qwen 3.6 27B 用上 MTP 后推理速度提升 2.5 倍，48GB 显存可跑 26 万上下文

> 原标题：2.5x faster inference with Qwen 3.6 27B using MTP - Finally a viable option for local agentic coding - 262k context on 48GB - Fixed chat template - Drop-in OpenAI and Anthropic API endpoints

- 来源：r/LocalLLaMA
- 发布时间：2026-05-06T09:35:42.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/14962
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t57xuu/25x_faster_inference_with_qwen_36_27b_using_mtp/

## 摘要

这篇帖子来自 Reddit 的 r/LocalLLaMA，作者分享了一个 llama.cpp 的 PR，为 Qwen 3.6 27B 模型添加了 MTP（多令牌预测）支持，实测推理速度提升了 2.5 倍。在 Mac M2 Max 96GB 上达到了 28 tok/s 的生成速度。

## 推荐理由

llama.cpp 的 PR 为 Qwen 3.6 27B 加入 MTP 支持，实测推理提速 2.5 倍，并在 48GB 显存下支持 26 万上下文，为本地 agentic coding 提供了可参考的配置方案。

## 锐评

2.5 倍提速这个数，比省显存实在。本地跑 27B 最难受的就是 tok/s 上不去，28 tok/s 已经能当日常工具用了，MTP 多令牌预测一次吐几个 token，等于白捡的算力。48GB 显存跑 26 万上下文听着夸张，但长上下文一开 KV cache 就吃掉大半，实际能塞多少得自己试。只有 Reddit 单源加一个 llama.cpp PR，配置折腾程度不低，我倾向于等合进主干再动。
