# 27B 模型塞进 iPhone 了，现在该问它到底能干嘛

> 原标题：27B 模型进了 iPhone，问题终于从“能不能跑”变成“跑它有什么用”

- 来源：Computing Life · Share · 鸭哥调研
- 发布时间：2026-07-26T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/46829
- 原文：https://yage.ai/share/bonsai-iphone-on-device-model-routes-20260726.html

## 摘要

Bonsai 27B 把 Qwen3.6-27B 压到了约 1.125 bit/权重，在 iPhone 17 Pro Max 上运行时占用约 3.9 GB 内存，15 项思考模式测试平均分 76.11，保留了原模型约 89.5% 的能力，但看图（59.57 分）和工具调用（66.03 分）掉得比较厉害。另一条路是 MiniCPM-V 4.6，总参数量 ...

## 推荐理由

Bonsai 27B 把 27B 模型跑在 iPhone 上，还给了真实跑分，这标志着讨论从技术可行性进入了产品化阶段。文章没停在跑分上，而是拆解了四个工程瓶颈：内存、发热、视觉预填充和可靠性。不足是 MiniCPM-V 4.6 那边的数据没给全，但整体判断很清醒，值得推荐给在端侧做模型选型的人。

## 锐评

这条新闻最值得看的地方，不是“27B模型能跑”，而是它把端侧路线的选择题摆到了台面上。Bonsai走的是大模型加极低比特压缩，用Qwen3.6-27B压到约1.125 bit/权重，在iPhone 17 Pro Max上占3.9GB内存，15项思考测试平均76.11分，保留了原版约89.5%的能力。数学和代码保留得不错，但看图（59.57分）和工具调用（66.03分）掉得厉害，说明极端压缩对视觉和多步操作很不友好。另一条路是MiniCPM-V 4.6这种小模型加专门优化的视觉编码，总参数量1.3B，在OCR和文档理解上更务实。

现在缺的东西很明确：所有数据都是厂商自测，没有在同一部iPhone上跑同一组收据、表格、截图做横向对比。Bonsai公布的11 tok/s解码速度注明了使用预缓存图像上下文，不能当成你拍张照立刻出结果的冷启动延迟。功耗、连续跑半小时后的发热衰减、后台恢复稳定性，这些产品级指标正文都没给。

对做产品的人来说，选型逻辑其实很清晰。如果主要做离线文字推理、写代码、读长文，大基座加极低比特值得优先评估。如果任务是快速看懂票据、截图、UI界面，视觉编码效率和首轮延迟比语言模型参数量重要得多，应该先看MiniCPM-V或Gemma这类方案。至于想做能替用户操作的多步Agent，工具调用可靠性、权限设计、出错恢复和热稳定性才是真正的门槛，模型跑分只是其中一小块拼图。