# 面壁智能开源 ForgeTrain，一个完全由 AI 写的预训练框架，8 小时追平 Megatron-LM

> 原标题：面壁智能发布AI全自动预训练框架ForgeTrain，8小时追平Megatron-LM

- 来源：AI HOT 精选
- 发布时间：2026-07-03T09:12:17.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/42143
- 原文：https://mp.weixin.qq.com/s/JVBbqU1O967ktzfEPuDERQ

## 摘要

面壁智能放出了一个叫 ForgeTrain 的预训练框架，代码全由 AI 生成，人工一行没改。它能针对特定模型和硬件从零自动生成训练代码，8 小时内性能追平 Megatron-LM，跑 1.5 到 2 天后稳定反超，FLOPS 利用率高出 8% 到 10%。已经在 MiniCPM4-0.5B 和 8B 上跑过，支持 H100 和昇腾 NPU。整个流程靠...

## 推荐理由

面壁智能放出一个全 AI 生成的预训练框架，8 小时追平 Megatron-LM，1.5 天后反超且 FLOPS 利用率高 8%–10%，指标够硬。我会先打个折，因为目前只在自家 MiniCPM 上验证过，跨模型泛化能力还没数据，所以分数没给更高。

## 锐评

面壁智能放出的 ForgeTrain 是个挺有意思的东西：整个预训练框架的代码全由 AI 生成，人工一行没改，能针对特定模型和硬件从零自动“锻造”训练代码。基准测试里，它在 8 小时内追平了 Megatron-LM，跑 1.5 到 2 天后稳定反超，FLOPS 利用率高出 8% 到 10%。这个数字说明在算力利用效率上确实有提升，不是靠堆卡硬拉吞吐。

不过目前只在 MiniCPM4 的 0.5B 和 8B 上跑过，支持 H100 和昇腾 NPU。正文没披露开源协议，也没给出更大规模模型（比如几十 B 或百 B 级别）的验证结果。小模型上省出来的这点利用率，放到大模型训练里能不能稳住、会不会被通信瓶颈吃掉，都还是未知数。另外，整个流程靠四阶段 Harness 自动判定，但没细说判定标准是什么，万一生成出来的代码有隐蔽 bug，靠什么兜底也没提。

如果是真的，这套思路挺省钱——不用再花大量人力去调 Megatron 那套东西。但现阶段先别太激动，等大模型上的实测和开源协议出来再说。