# 用 12GB 显存跑 Qwen3.6 35B A3B，llama.cpp MTP 实测跑到 80 tok/s、128K 上下文

> 原标题：80 tok/sec and 128K context on 12GB VRAM with Qwen3.6 35B A3B and llama.cpp MTP

- 来源：r/LocalLLaMA
- 发布时间：2026-05-09T11:57:52.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/16615
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t82zxv/80_toksec_and_128k_context_on_12gb_vram_with/

## 摘要

Reddit 用户 janvitos 在 RTX 4070 Super（12GB 显存）上跑 Qwen3.6-35B-A3B-MTP-GGUF，搭配 llama.cpp 的一个 MTP 拉取请求。他贴出的实测数据是每秒 69.2 到 81.9 个 token，草稿接受率在 0.694 到 0.947 之间，上下文长度拉到 131072。

## 推荐理由

Reddit 用户 janvitos 在 12GB 显存的 RTX 4070 Super 上跑 Qwen3.6 35B A3B，贴出 69.2 到 81.9 tok/s 与 128K 上下文的实测配置。

## 锐评

12GB 显存跑 35B 还能 80 tok/s，这个组合确实让人想试。MoE 加 MTP 草稿接受率最高 0.947，大部分 token 一次就猜中，省下的算力全变成速度。但这是单用户晒的结果，llama.cpp 的 MTP 还在 PR 阶段，没合进主线，复现门槛不低。数字可以信，配置先别照抄，等合了再动手。
