# 在笔记本 RTX 4060 8GB 上跑 Qwen3.6-35B-A3B 的实测：一个参数改动让速度从 11 跳到 43 tok/s，投机解码再提 26%

> 原标题：Running Qwen3.6-35B-A3B on a laptop RTX 4060 (8GB) — what worked, what didn't, and a surprising speculative-decoding result

- 来源：r/LocalLLaMA
- 发布时间：2026-06-05T20:25:43.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/34689
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1txwff3/running_qwen3635ba3b_on_a_laptop_rtx_4060_8gb/

## 摘要

一位 Reddit 用户在自己的笔记本（RTX 4060 8GB 显存）上跑了 Qwen3.6-35B-A3B 这个混合专家模型。他试下来发现，加上 --no-mmap 这个启动参数后，生成速度直接从大约 11 tok/s 飙到 43 tok/s，翻了近四倍。

## 推荐理由

一位 Reddit 用户在笔记本 RTX 4060 8GB 上实测 Qwen3.6-35B-A3B，仅加 --no-mmap 启动参数就把生成速度从约 11 tok/s 提到 43 tok/s，并给出投机解码再提 26% 的结果。

## 锐评

8GB 显存跑 35B 的 MoE，这个组合本身就够离谱，但 --no-mmap 一个参数把速度从 11 拉到 43 tok/s 才是重点。mmap 默认开着省内存，代价是每次读权重都走磁盘，笔记本那点 SSD 带宽直接卡死，关掉以后权重全进内存，翻四倍不奇怪。

本地跑大模型的瓶颈很多时候不在显存，在内存和 IO 的配置。这帖是 Reddit 单帖，没有复现，方向我信。手上有 8GB 卡的可以试一下这个参数，成本为零。
