卡内基梅隆和马里兰大学让大模型“睡觉”：上下文快满时暂停、压缩记忆再继续推理

大模型也需要睡觉！让AI打个盹，醒来更聪明

这篇论文给大模型设计了一个类似人类睡眠的机制。当模型处理长文本、上下文窗口快塞满时，它会主动停下来，不再接收新 token，而是利用离线时间对已积累的上下文做多轮递归前向计算，把信息压缩成“快速权重”。之后清空 KV 缓存，相当于整理完记忆再醒来继续干活。测试在细胞自动机、多跳图谱检索和 GSM-Infinite 推理任务上跑过，但正文没披露具体的性能...

推荐理由：我会先打个折，因为正文没给出压缩后的基准测试提升、代码或实际部署证据，所以分数停在 76。但“睡觉”这个说法确实把枯燥的上下文压缩讲得让人想点进去看。核心操作是模型在上下文快满时主动暂停，用多轮离线方式把旧信息压紧，然后清掉 KV 缓存腾地方，思路清楚。如果后续有实测数据，比如长文本任务不掉点、显存省了多少，分数还能往上走。这点先别太激动，等看到具体数字再说。