# 南大和阿里发现 DiT 里的残差流拖慢收敛，改用跨层路由后训练快了近 9 倍

> 原标题：近9倍训练加速：DiT里的残差流，正在成为收敛瓶颈

- 来源：阿里技术 · 公众号
- 发布时间：2026-05-26T10:50:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/31556
- 原文：https://mp.weixin.qq.com/s?__biz=Mzg4NTczNzg2OA==&mid=2247509566&idx=1&sn=ace75be905d15523692f57dcd02142a4

## 摘要

南京大学 LAMDA 组和阿里智能引擎团队提出了一种叫 DAR 的方法，把 DiT 模型里固定的残差累积，换成了按时间步动态选择路径的跨层路由。在 ImageNet 256×256 上拿 SiT-XL/2 试，FID 从 9.67 降到了 7.56，而且只用原来大约九分之一的训练步数就达到了同等收敛质量。

## 推荐理由

南大 LAMDA 与阿里团队把 DiT 固定的残差累积换成按时间步动态选路的跨层路由，在 ImageNet 上以约九分之一训练步数达到同等收敛质量。

## 锐评

训练步数省到九分之一，这个量级比 FID 从 9.67 降到 7.56 更值得看。烧视觉模型最贵的就是 GPU 时间，同样收敛质量少跑八成的步，训练预算直接砍掉一大块。残差流这种默认组件被揪出来当瓶颈，思路不新，落点很实。

SiT-XL/2 是单一配置，换到更大的 DiT 或者视频模型上还成不成立，得等复现。反正开源实现出来我会去看一眼。
