# Qwen 3.6 27B 是本地跑模型的甜点级选择

> 原标题：Qwen 3.6 27B is the sweet spot for local development

- 来源：Hacker News 首页
- 发布时间：2026-06-29T17:05:16.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/41287
- 原文：https://quesma.com/blog/qwen-36-is-awesome/

## 摘要

Piotr Migdał 在 Macbook Max M5 128GB 上实测了 Qwen 3.6 27B，用 8-bit 量化版跑出每秒 32 个 token，占 42GB 内存。他认为这是第一个能当通用智能用的本地模型。测试里它一次就生成出六边形扫雷的 npm 包，还搭了一个响应式落地页。文章给了完整的 llama.cpp 配置命令，并出于伦理原因...

## 推荐理由

一篇带真实数字的个人实测，不是通稿。Qwen 3.6 本身热度就高，这篇文章补上了本地部署的实操细节。分数卡在 72 是因为它终究是个人评测，不是官方发布或重大产品更新。

## 锐评

这条分享的价值在于给了可复现的配置和真实跑分，不是跑分网站的数字。作者用 llama.cpp 直接加载 8-bit 量化版，占 42GB 内存，在 MacBook 上跑到 32 tok/s，还特意开了多 token 预测提速。测试任务不是玩具：一次 prompt 生成完整的 npm 包、搭出响应式落地页，说明模型在代码生成和遵循指令上确实能干活。

不过得打几个折。首先，128GB 内存的 M5 Max 不是多数开发者的标配，32 tok/s 的速度在交互式编程里也只是“能用”，离流畅还有距离。其次，测试样本太少，就几个 prompt，没跑标准基准，也没提长上下文或复杂多步任务的表现。作者自己也说，按当前前沿模型的标准，这些成果“不算出彩”。

还缺什么？没给功耗和发热对持续使用的影响，也没对比同尺寸其他模型。如果你手头正好有高配 Mac，这条配置值得照着试；如果设备一般，先别急着激动，等更多实测出来再说。