# 卡内基梅隆和马里兰大学让大模型“睡觉”：上下文快满时暂停、压缩记忆再继续推理

> 原标题：大模型也需要睡觉！让AI打个盹，醒来更聪明

- 来源：量子位 · 公众号
- 发布时间：2026-05-27T09:26:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/29694
- 原文：https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247893397&idx=2&sn=6b10c525880f4303c0062a80bd069d06

## 摘要

这篇论文给大模型设计了一个类似人类睡眠的机制。当模型处理长文本、上下文窗口快塞满时，它会主动停下来，不再接收新 token，而是利用离线时间对已积累的上下文做多轮递归前向计算，把信息压缩成“快速权重”。之后清空 KV 缓存，相当于整理完记忆再醒来继续干活。

## 推荐理由

卡内基梅隆和马里兰大学给大模型设计了类似睡眠的机制，在上下文快满时暂停并压缩记忆，为长文本推理中的显存与上下文管理提供了一种可迁移的方法。

## 锐评

睡觉这个比喻挺抓人，但论文里值钱的是清 KV 缓存那一步。上下文快满时停下来，把旧信息压成快速权重，再把缓存清掉，等于用离线算力换显存。长 context 的 agent 现在最贵的就是这块显存，能压下来就有意义。

摘要里一个数字都没有，压缩完长文本任务掉不掉点、显存省多少，全没提。这种机制最怕压完就忘，多轮递归前向听着优雅，实际效果得看实测。先当个思路看。
