跳到正文
Hacker News 首页

把 AI 助手的上下文当成生命周期来管,而不只是存起来

Agentic Context Management: Memory and Cost as Architecture Problems

这篇论文的核心判断是:生产环境里的 AI 助手(agent)翻车,多数不是因为推理不行,而是被自己攒下的上下文撑死了。对话历史、工具定义、工具返回的结果越堆越多,每次调用模型都要把整坨东西塞进去,token 费用会随着对话轮次平方级增长。粗暴地做摘要虽然能把成本压成线性,但准确率会断崖式下跌。作者把这个问题叫做“智能体上下文管理(ACM)”,拆成五件事...

推荐理由:这篇论文没在讲模型多强,而是讲 agent 在生产环境里怎么被自己攒下的上下文拖垮。作者把问题拆成五件事,相当于给上下文管理画了一张架构蓝图。我会先打个折:正文没披露大规模生产验证,更像一个框架提案,所以分数停在 78,刚好够 featured 门槛。

读原文 ↗导出 Markdown