# MTP 实测：写代码能加速 71%，写小说反而变慢 9%，任务类型决定投机推理是帮忙还是帮倒忙

> 原标题：MTP benchmark results: the nature of the generative task dictates whether you will benefit (coding) or get slower inference (creative) from speculative inference. No other factor comes close.

- 来源：r/LocalLLaMA
- 发布时间：2026-05-10T19:25:50.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/16844
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t9gcar/mtp_benchmark_results_the_nature_of_the/

## 摘要

一位 Reddit 用户用 Qwen 3.6 27B 的 MTP 量化模型跑了 300 多次测试，发现投机推理（让模型先猜后验证）的效果完全看任务类型。写代码时草稿被采纳的比例高达 79% 到 89%，用 F16 精度跑代码生成速度提升了 171%；但换成创意写作，Q4_K_M 量化下推理速度反而慢了 9%。

## 推荐理由

Reddit 用户用 Qwen 3.6 27B 的 MTP 量化模型跑了 300 多次测试，发现投机推理在写代码时草稿采纳率高达 79% 到 89%，换成创意写作反而慢 9%，任务类型直接决定加速还是拖慢。

## 锐评

投机推理不是万能加速器，写代码和写小说完全是两回事。79% 到 89% 的草稿采纳率放在代码上很合理，代码的 token 分布本来就窄，模型猜下一行的命中率天然高，F16 下 171% 的加速我信。创意写作慢 9% 这个数更该记住，Q4_K_M 量化本身精度就紧，草稿被拒一次就白跑一遍验证，接受率一低，投机推理就是纯亏。本地部署的别默认开 MTP，先按任务类型分，代码和结构化输出开，自由文本关掉。300 次测试量够，但单机单模型，别当成通用结论。
