# 用免费 Colab T4 和 Mac 给苹果端侧 3B 模型训练 LoRA 适配器

> 原标题：Training LoRA adapters for Apple's on-device 3B model on a free Colab T4 and a Mac

- 来源：r/LocalLLaMA
- 发布时间：2026-04-20T15:05:28.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/6941
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1sqrzu4/training_lora_adapters_for_apples_ondevice_3b/

## 摘要

作者搭了一套 QLoRA 流程来微调苹果那个跑在手机上的 3B 模型，把显存需求从大约 24GB 压到 1GB 内存加 5GB 显存，免费版 Colab T4 或者一台 24GB 内存的 Mac 就能跑。

## 推荐理由

作者用 QLoRA 微调苹果端侧 3B 模型，把显存需求从约 24GB 压到 1GB 内存加 5GB 显存，免费 Colab T4 或 24GB 内存 Mac 即可复现整套流程。

## 锐评

24GB 显存压到 1GB 内存加 5GB 显存，这个量级才叫端侧微调能落地。免费 Colab T4 就能跑，试错成本基本没了，想给手机上的小模型塞私有数据的可以直接抄这套 QLoRA 流程。

单篇 Reddit 帖子，分数没上 85 我理解，跑分范围也窄，复现前别当定论。显存数字是硬的，24GB 到 5GB 这个跨度不是调参能糊出来的。
