用免费 Colab T4 和 Mac 给苹果端侧 3B 模型训练 LoRA 适配器
Training LoRA adapters for Apple's on-device 3B model on a free Colab T4 and a Mac
作者搭了一套 QLoRA 流程来微调苹果那个跑在手机上的 3B 模型,把显存需求从大约 24GB 压到 1GB 内存加 5GB 显存,免费版 Colab T4 或者一台 24GB 内存的 Mac 就能跑。
推荐理由:作者用 QLoRA 微调苹果端侧 3B 模型,把显存需求从约 24GB 压到 1GB 内存加 5GB 显存,免费 Colab T4 或 24GB 内存 Mac 即可复现整套流程。