Soup:一个命令就能在 4GB 显存的笔记本上微调 8B 模型
Soup 把大语言模型的微调流程打包成一个命令行工具,最低只要 4GB 显存就能跑。它底层用了 QLoRA(一种省显存的微调方法)和 Unsloth 加速,支持 Llama、Mistral、Qwen 这些主流的 8B 模型。你准备好 JSONL 格式的数据集,写一个 YAML 配置文件,敲一句 `soup run` 就开始训练了。
推荐理由:Soup 把 QLoRA 微调打包成命令行工具,4GB 显存就能训练 Llama、Mistral、Qwen 等 8B 模型,准备 JSONL 数据集和 YAML 配置后一句 soup run 即可启动。