# 一台 5 年老笔记本跑通 35B 模型：6GB 显存 + CPU 混合推理，插电 23 token/秒

> 原标题：Pushing a 5-Year-Old 6GB VRAM laptop to Its Limits: Qwen3.6-35B-A3B

- 来源：r/LocalLLaMA
- 发布时间：2026-05-03T22:16:02.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/13182
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t2zapy/pushing_a_5yearold_6gb_vram_laptop_to_its_limits/

## 摘要

Reddit 用户 abhinand05 在一台 5 年前的华硕 ROG Zephyrus G14 上跑起了 Qwen3.6-35B-A3B 模型。这台笔记本只有 RTX 2060 Max-Q 6GB 显存，搭配 24GB DDR4 内存和 Ryzen 7 处理器。插电时生成速度约 23 token/秒，不插电掉到 10 token/秒出头。

## 推荐理由

Reddit 用户在一台 5 年前的 6GB 显存笔记本上跑通 35B 模型，插电约 23 token/秒，展示了 CPU 混合推理与显存受限场景下的可行组合。

## 锐评

6GB 显存跑 35B，23 token/秒，这个数字比模型本身有意思。MoE 加 CPU 混合推理加 KV cache 量化，把显存不够这件事绕过去了，老设备还能再战两年。单个 Reddit 用户的跑分不能当 benchmark 看，量化精度和功耗都没说，23 token/秒大概也就是能用的水平，谈不上快。但方向是对的，显存不再是硬门槛，内存和带宽才是。手里有旧笔记本的可以照着这个思路试，成本几乎为零。
