# 面壁智能开源 ForgeTrain，一个完全由 AI 写的预训练框架，8 小时追平 Megatron-LM

> 原标题：面壁智能发布AI全自动预训练框架ForgeTrain，8小时追平Megatron-LM

- 来源：AI HOT 精选
- 发布时间：2026-07-03T09:12:17.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/42143
- 原文：https://mp.weixin.qq.com/s/JVBbqU1O967ktzfEPuDERQ

## 摘要

面壁智能放出了一个叫 ForgeTrain 的预训练框架，代码全由 AI 生成，人工一行没改。它能针对特定模型和硬件从零自动生成训练代码，8 小时内性能追平 Megatron-LM，跑 1.5 到 2 天后稳定反超，FLOPS 利用率高出 8% 到 10%。已经在 MiniCPM4-0.5B 和 8B 上跑过，支持 H100 和昇腾 NPU。

## 推荐理由

面壁智能开源全由AI生成代码的预训练框架，报告其在MiniCPM测试中的FLOPS利用率比Megatron-LM高8%至10%。

## 锐评

全 AI 写的训练框架能追平 Megatron-LM，这个方向我信，但 8 小时这个数得看是在什么规模上跑出来的。MiniCPM4-0.5B 和 8B，几百卡以内的集群，自动生成的代码把通信和算子融合调对就能追平手写框架，这事不玄。难的是千卡以上、跨节点通信出问题的时候，AI 生成的代码还能不能自己定位。面壁只在自家模型上验证过，换个架构这套生成逻辑还成不成立，没数据。预训练框架这层被 AI 自己写掉，对做小模型的团队是好事，省一个专职 kernel 工程师。
