IBM 公开 Granite 4.2 模型完整训练流程,从预训练到让模型学会用工具
Granite 4.2 LLMs: How They're Built
IBM 在博客里把 Granite 4.2 的整个训练管线摊开来讲了。架构上没大改,还是密集模型。预训练部分正文没给具体数据和硬件细节。有监督微调(SFT)阶段,他们花了不少力气做数据质检,30B 模型还分了两阶段 SFT。强化学习(RL)是重头戏,分三步走:先打基础技能,再上“让模型进业务流程干活”的 agentic RL 教 8B 和 30B 模型...
推荐理由:一篇扎实的训练管线拆解,工程细节够硬,H 和 K 都站得住。但 Granite 的社区号召力有限,R 拉不上去。正文没披露预训练数据和硬件规格,分数没法再往上走。Featured 是因为这确实是模型训练者会收藏的那种文章。