港中大和浙大团队认为,现在 AI Agent 的“记忆”只是备忘录,不是真记忆
你的AI Agent越用越蠢?港中大、浙大戳破「记忆」的谎言
这篇文章的正文被微信环境验证挡住了,具体实验细节看不到。从标题和现有摘要看,港中大和浙大的研究者戳破了一个常见说法:主流 AI Agent 的记忆模块,本质上是把过往信息存起来、用的时候再检索出来,相当于一个备忘录,而不是真正具备推理能力的记忆。他们指出,处理需要组合多个步骤的任务时,这种检索式记忆需要的案例数会按 k² 增长,成本很高。另外在一个叫 ...
推荐理由:我会先打个折:这篇不是模型发布,而是研究信号,但信号很强。标题把“记忆”的谎言直接戳破,正文用 Ω(k²) 和 90% 攻击成功率两个数字把问题量化得很清楚,不是空谈风险。对做 Agent 和外挂资料库的人,这三个点——记忆退化、检索投毒、案例爆炸——都是实打实的工程隐患,所以 H、K、R 全中。