跳到正文
Computing Life · Share · 鸭哥调研

一张草稿纸,一个 Controller:重新理解大模型推理

推理模型并没有长出会思考的新大脑。Chain of Thought 先给 Transformer 一张只能往后写、不能往回擦的草稿纸,把原本挤在单次前向传播里的隐层心算,平摊到几十上百个自回归时间步上;后训练再练出一个 Controller,决定什么时候在草稿纸上检查、回退、换路或停笔。s1 的 Wait 实验和 pass@k 衰减测试都指向同一个结论...

推荐理由:这篇文章不是新论文或产品发布,而是一篇机制解读,但解读质量很高。它用草稿纸和控制器两个比喻把 Chain of Thought 和后训练的分工讲清楚了,还挂了 s1 的实验数据,不是空对空。H 轴靠比喻和机制拆解拿满,K 轴有具体实验支撑,R 轴因为好懂且有料,转发动力强。整体是评论向的优质内容,不是一手发布,所以分数落在 78 这个区间,不往上拔。

读原文 ↗导出 Markdown