跳到正文
Ben's Bites

Ben 的上下文清理小抄:别让 AI 被垃圾信息喂饱

My cheatsheet for a clean context

Ben 在飞往旧金山的航班上没网,临时下载了 Gemma 4 26B 模型离线干活,顺便分享了他管理 AI 上下文窗口的几条硬经验。核心观点是:别迷信 100 万 token 的超长窗口,他根本不信任那种窗口下的稳定记忆,任务所需的完美回忆不该超过 15 万 token。

推荐理由:Ben 结合航班离线使用 Gemma 4 26B 的经历,给出上下文窗口管理经验,认为任务所需记忆不宜超过 15 万 token,并说明为何不信任百万级窗口的稳定记忆。

读原文 ↗导出 Markdown