# Unsloth 放出 Qwen3.6 MTP GGUF 模型，推理速度提升超 1.4 倍

> 原标题：UnslothAI发布Qwen3.6 MTP GGUF模型，实现推理速度大幅提升

- 来源：AI HOT 精选
- 发布时间：2026-05-14T02:24:11.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/19937
- 原文：https://x.com/berryxia/status/2054749585520890314

## 摘要

Unsloth 创始人 Daniel Han 发了几个实验版 Qwen3.6 MTP GGUF 模型，用了一种叫“投机解码”的技术来加速推理。具体做法是让模型一次猜两个草稿 token（draft tokens=2），在速度和猜对率之间找了个平衡点。

## 推荐理由

Unsloth 创始人 Daniel Han 发布实验版 Qwen3.6 MTP GGUF 模型，用投机解码让模型一次猜两个草稿 token，在速度与猜对率之间取平衡，推理速度提升超 1.4 倍。

## 锐评

MTP 投机解码把 27B 和 35B-A3B 拉到单卡能用的速度，这个方向对本地部署挺实在。一次猜两个 draft token 是速度和命中率之间的取舍，猜得准就白赚，猜不准反而多花算力，draft 数不是越大越好。

这条只有一条 X 动态，什么卡、量化到几比特、怎么复现都没说，1.4 倍这个数先当参考。真要在本地跑 Qwen3.6 的，等有人放出同硬件的对比再动手。
