# MTPLX 让苹果芯片跑大模型快了一倍多，原生 MTP 推理引擎来了

> 原标题：MTPLX | 2.24x faster TPS | The native MTP inference engine for Apple Silicon

- 来源：r/LocalLLaMA
- 发布时间：2026-05-05T00:31:12.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/13680
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t3zuvy/mtplx_224x_faster_tps_the_native_mtp_inference/

## 摘要

一个叫 MTPLX 的推理引擎在 MacBook Pro M5 Max 上把 Qwen3.6-27B 的生成速度从每秒 28 个 token 提到了 63 个 token，快了 2.24 倍。测试用的是 4-bit MLX 量化，温度 0.6，top_p 0.95，top_k 20，最佳推测深度 D3。

## 推荐理由

MTPLX 在 MacBook Pro M5 Max 上把 Qwen3.6-27B 的生成速度从每秒 28 个 token 提到 63 个，2.24 倍提升来自内置 MTP heads，无需额外加载 drafter 模型。

## 锐评

MTP heads 内置在模型里这点比 2.24 倍更值钱。跑本地推理的都懂，speculative decoding 要额外挂个 drafter，显存本来就紧，27B 4-bit 在 Mac 上再塞一个模型基本没戏。省掉这块，等于白拿一倍吞吐。

单帖来源我认，但 28 到 63 这个量级不像编的，M5 Max 的带宽撑得住。Mac 上跑 27B 的人可以盯一下复现，现在的配置先别动。
