跳到正文
Computing Life · Share · 鸭哥调研

27B 模型塞进 iPhone 了,现在该问它到底能干嘛

27B 模型进了 iPhone,问题终于从“能不能跑”变成“跑它有什么用”

Bonsai 27B 把 Qwen3.6-27B 压到了约 1.125 bit/权重,在 iPhone 17 Pro Max 上运行时占用约 3.9 GB 内存,15 项思考模式测试平均分 76.11,保留了原模型约 89.5% 的能力,但看图(59.57 分)和工具调用(66.03 分)掉得比较厉害。

推荐理由:Bonsai 27B 把 Qwen3.6-27B 压到约 1.125 bit 权重跑进 iPhone,占用约 3.9 GB 内存并保留原模型约 89.5% 能力,端侧部署的取舍有了具体参照。

读原文 ↗导出 Markdown