跳到正文

#RAG

今日 0 条

10月27日星期二

10月22日星期四

MIT Technology Review · AI

AI 的隐性存储账单:推理留下了什么

WD 内部测量显示,一段 8 秒 AI 视频(用户拿到的是 3.97MB 的 720p 文件)在后端留下超过 500MB 关联数据,是输出文件体积的 130 倍。

5月25日星期一

r/LocalLLaMA

小模型做智能体流程不流行,不是能力不行,是商业账算不过来

这篇帖子直接点破:小模型搭的智能体方案没成为主流,跟技术能不能跑通关系不大,核心是商业风险和验证成本。作者举了两个例子——Gemma 4 31B 在 tau2-bench 上能跑到 86.4% 的准确率,DeepSeek V4-Flash 的输出 token 价格差不多是 Claude Opus 4.6 的 89 分之一,单看指标和成本都挺能打。

推荐理由:帖子指出小模型智能体方案未成主流的原因在商业风险与验证成本,并给出 Gemma 4 31B 在 tau2-bench 上 86.4% 的准确率和 DeepSeek V4-Flash 约为 Claude Opus 4.6 八十九分之一的输出价格。

5月7日星期四

Computing Life · Share · 鸭哥调研

Agent 文件系统:从“喂给模型记忆”到“让模型自己翻文件”

这篇文章梳理了 AI agent 外置记忆方案的三代演化:从把所有东西塞进上下文窗口,到用向量数据库做外挂记忆,再到 2025 年下半年兴起的“把文件系统当上下文用”。核心转变是让 agent 自己按需去文件系统里找信息,而不是开发者预先推送。

推荐理由:文章梳理了 AI agent 外置记忆从塞满上下文窗口、向量数据库外挂到把文件系统当上下文的三代演化,重点在让 agent 按需自行检索而非开发者预先推送。

4月3日星期五

X · @op7418(歸藏)

Karpathy 用 Obsidian 和大模型搭了一套本地知识库,把原始资料自动整理成可提问、可写报告的 Wiki

Karpathy 的做法是把原始资料扔进一个叫 RAW 的文件夹,让大模型自动生成摘要、索引、概念页、相互链接和可视化图表,最终形成一个本地 Markdown Wiki。之后可以直接在这个 Wiki 上提问,模型会查索引、读相关文档再给出回答或生成新文件、网页甚至 PPT,并把输出存回知识库。

推荐理由:Karpathy 公开了把原始资料经大模型整理成本地 Markdown Wiki 的完整流程,涵盖摘要、索引、互链到基于 Wiki 提问和生成报告,可迁移到个人知识库搭建。

1月19日星期一

Import AI

我的 AI 特工已经在干活了,你的呢?

Jack Clark 描述了他让多个研究型 AI 特工在他爬山、睡觉时替他读论文、交叉比对数据、生成分析报告的经历。这些活如果他自己干,每份报告得花一周,而特工们几小时就搞定了,读的论文还比他多。他还提到,让 Claude 帮他爬自己网站、做嵌入向量、搭本地搜索和图形界面,以前试了好几年都因为各种卡顿没做成,这次不到一小时全跑通了。

推荐理由:Jack Clark 让多个研究型 AI 特工在他爬山、睡觉时读论文、交叉比对并生成报告,原本每份要一周的活几小时完成,还顺带用 Claude 一小时搭起本地搜索和图形界面。