# 华为搞了个 HiFloat4 训练格式，在自家昇腾芯片上跑赢了西方主导的 MXFP4

> 原标题：Import AI 454: Automating alignment research; safety study of a Chinese model; HiFloat4

- 来源：Import AI
- 发布时间：2026-04-20T12:30:19.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/10419
- 原文：https://jack-clark.net/2026/04/20/import-ai-454-automating-alignment-research-safety-study-of-a-chinese-model-hifloat4/

## 摘要

华为的研究员在自家昇腾 NPU 上测试了一种叫 HiFloat4 的 4 比特训练格式，跟西方主导的 MXFP4 格式比，HiFloat4 的精度损失更小。具体来说，在 Llama 和 Qwen 模型上，HiFloat4 跟全精度 BF16 基准的误差能控制在 1% 左右，而 MXFP4 即使加了随机舍入等一堆稳定技巧，误差也有 1.5%。

## 推荐理由

华为研究员在昇腾 NPU 上测试 4 比特训练格式 HiFloat4，与 MXFP4 相比在 Llama 和 Qwen 上精度损失更小，误差约 1% 对 1.5%。

## 锐评

1% 对 1.5%，这个差距放在 4 比特训练上不算小。4 比特最怕误差累积，多零点五个点，训到后面就是能不能收敛的区别。华为在自家昇腾上把 MXFP4 比下去，说明这条硬件路线不用等英伟达的格式标准也能走。

摘要里只有 Llama 和 Qwen 上的误差数字，模型规模、训练步数、吞吐一个没提。4 比特的成本账在吞吐和显存上，精度只是入场券，昇腾上跑得动和跑得划算中间还差一截。
