一张草稿纸,一个 Controller:重新理解大模型推理
推理模型并没有长出会思考的新大脑。Chain of Thought 先给 Transformer 一张只能往后写、不能往回擦的草稿纸,把原本挤在单次前向传播里的隐层心算,平摊到几十上百个自回归时间步上;后训练再练出一个 Controller,决定什么时候在草稿纸上检查、回退、换路或停笔。
推荐理由:文章用草稿纸和控制器两个比喻拆解 Chain of Thought 与后训练的分工,把推理模型的能力来源讲成可理解的机制,适合想弄清大模型推理原理的读者。