# 用免费 Colab T4 和 Mac 给苹果端侧 3B 模型训练 LoRA 适配器

> 原标题：Training LoRA adapters for Apple's on-device 3B model on a free Colab T4 and a Mac

- 来源：r/LocalLLaMA
- 发布时间：2026-04-20T15:05:28.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/6941
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1sqrzu4/training_lora_adapters_for_apples_ondevice_3b/

## 摘要

作者搭了一套 QLoRA 流程来微调苹果那个跑在手机上的 3B 模型，把显存需求从大约 24GB 压到 1GB 内存加 5GB 显存，免费版 Colab T4 或者一台 24GB 内存的 Mac 就能跑。帖子说 A100 跑 LoRA、T4 跑 QLoRA、Mac 跑 QLoRA 训出来的适配器效果差不多，都能把准确率从 40% 左右拉到 75%，如果...

## 推荐理由

一篇带名字的第一手实验，内存和准确率数字可复现，HKR 三项全中，比普通教程贴强。分数没上 85 是因为来源只是单篇 Reddit 帖子，权威性有限，跑分范围也窄。

## 锐评

这条帖子讲的是用 QLoRA 微调苹果那个跑在手机上的 3B 模型，把显存需求从大约 24GB 压到 1GB 内存加 5GB 显存，免费版 Colab T4 或者一台 24GB 内存的 Mac 就能跑。作者说 A100 跑 LoRA、T4 跑 QLoRA、Mac 跑 QLoRA 训出来的适配器效果差不多，都能把准确率从 40% 左右拉到 75%，加上外挂资料库能到 86%。这个数字挺实在的，说明小模型加微调加检索，在特定任务上确实能打。

但有个坑要先说清楚：Reddit 把这条帖子屏蔽了，我们拿不到完整原文，上面这些数字都来自摘要，没法核实实验设置、数据集大小、评测方式。另外帖子提到一个苹果的 bug，每次命令行调用会偷偷写一个约 160MB 的缓存副本，跑 300 次能攒到 269GB，这个如果是真的，对长期用苹果模型做实验的人是个实打实的麻烦。

整体看，这条信息对想在消费级设备上微调小模型的人有参考价值，但缺了原文验证，建议先当经验分享看，别直接当基准结论引用。