一台 300 美元笔记本跑 Qwen 3.5 35B 模型,推理速度跑到每秒 10.33 个 token
一位 Reddit 用户在一台 300 美元买的联想 Ideapad Slim 3i 上,用纯 CPU 跑 Qwen 3.5 35B 模型(Q4_K_S 量化版),推理速度达到了每秒 10.33 个 token。这台机器是 i3-1215U 处理器,板载 8GB 内存加一条 32GB DDR4 扩展内存。
推荐理由:Reddit 用户用 300 美元的联想 Ideapad Slim 3i 纯 CPU 运行 Qwen 3.5 35B 的 Q4_K_S 量化版,推理速度达到每秒 10.33 个 token。