# 大模型预测太短视？Next-ToBE 让模型多看几步，ICLR 2026 新方法在 36 项测试里赢了 35 次

> 原标题：大模型自信且短视！Next-ToBE破除Next Token预测诅咒 | ICLR&#39;26

- 来源：新智元 · 公众号
- 发布时间：2026-05-10T04:49:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/17494
- 原文：https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652699289&idx=3&sn=7efa82dfdec07bf9b8e525381cc99b25

## 摘要

华东师大和复旦的研究者发现，现在大模型训练时只盯着“下一个词”来猜，容易让模型变得自信但目光短浅。他们提出 Next-ToBE，训练时给模型一个“软目标”，让它同时参考未来几个词的信息，但推理时不用改，还是正常的逐词生成。

## 推荐理由

华东师大和复旦研究者提出 Next-ToBE，训练时让模型参考未来几个词的软目标，推理时仍逐词生成，在 36 项测试中赢了 35 次。

## 锐评

36 项赢 35 项，得先看它跟谁比。拿自家改过的训练目标去跑自家挑的 benchmark，赢多少都不奇怪，这种全胜战绩论文里太多了。

改训练目标不动架构，这个方向本身省钱，真能泛化对预训练是好事。模型多大、数据多少都没提，现在只能当个学术信号看，往训练管线里搬还早。
