探索式建模：给模型 K 次猜测机会，只拿最好的那次来训练

Explorative modeling: Train on the best of K guesses

Alexi Gladstone 提出了探索式建模（XM），核心思路很简单：每一步让模型生成 K 个候选结果，然后只拿最好的那个来训练。这相当于在数据和参数量之外，给预训练增加了第三条可以扩展的轴。实验显示，增加探索次数能稳定提升图像、视频和语言模型的效果，而且模型规模越大，收益越明显——数据量增加时，提升从 7% 涨到 36%；参数量增加时，从 13%...

推荐理由：Alexi Gladstone 提了个叫探索式建模（XM）的方法，做法很直白：每一步让模型吐出 K 个候选结果，只挑最好的那个拿来训练。这相当于在堆数据和堆参数之外，给预训练多开了一个可以拧的旋钮。实验跨了图像、视频和语言模型，效果都稳得住，而且模型越大、数据越多，收益越明显——数据量上去后提升从 7% 蹿到 36%，参数量上去后从 13% 涨到 23%，还报了个 6.2 倍的效率提升。我会先打个折，因为作者是个人研究者，不是知名实验室，文章也是自述形式，没有经过同行评审，这点先别太激动。但思路本身够简单，有代码有项目页，值得认真看一眼。