Mintlify 给 AI 文档助手造了个假文件系统,启动从 46 秒降到 100 毫秒
文档平台 Mintlify 发了一篇工程博客,讲了一件挺有意思的事:他们给自家 AI 文档助手造了一套假的文件系统,叫 ChromaFs,让 AI 以为自己在用 grep、cat、ls…
Mintlify 把 AI 文档助手的检索方式从向量 RAG 换成了 ChromaFs——一套用数据库查询模拟 grep、cat、ls 的假文件系统。AI 以为自己在一个真实的文件系统里翻文档,实际上每个命令都被拦截翻译成 Chroma 查询。效果是会话启动时间从沙箱方案的 46 秒压到 100 毫秒,每次对话的边际计算成本几乎为零。
推荐理由:Mintlify 把 AI 文档助手的检索从向量 RAG 换成用数据库查询模拟 grep、cat、ls 的假文件系统,会话启动时间由沙箱方案的 46 秒降到 100 毫秒,边际计算成本接近零。