跳到正文
量子位 · 公众号

上海 AI 实验室发现:有监督微调能跨领域泛化,但得满足三个条件

上海AI Lab新研究:SFT能泛化,只要满足这三个条件

上海 AI 实验室、上海交大和中科大的团队拿 Qwen3-14B-Base 做长思维链的监督微调实验,发现模型在训练 8 轮后,跨领域的表现会先跌后涨,最终超过原始水平。他们总结出泛化要成立的三个条件:一是得把模型训得足够深,不能浅尝辄止;二是训练数据的质量和结构要过关;三是基座模型本身的能力得够强。

推荐理由:上海 AI 实验室等团队用 Qwen3-14B-Base 做长思维链微调,观察到跨领域表现先跌后涨,并归纳出泛化成立的三个条件。

读原文 ↗导出 Markdown