跳到正文

#RAG

今日 0 条

11月6日星期五

11月5日星期四

TechCrunch · AI

Box 采用 Nvidia Nemotron 打造智能体优先的内容检索系统

Box 在开发者大会上发布 Box Content Retrieval,将 Nvidia 的 Nemotron 嵌入系统集成进产品核心,让智能体基于嵌入元数据回答查询。Nvidia 生成式 AI 软件副总裁 Kari Briski 称查询速度提升 4 倍、错误减少 20%、token 用量减少 90%。该功能面向 Box Enterprise Advance 客户,将于明年初开始推送。

11月4日星期三

Hacker News 首页

Show HN:交互式笔记讲解 RLHF、注意力机制、LoRA 与 LLM 评测

一位开发者发布 INTERNALS.md 交互式笔记,通过改动输入来理解 RLHF、注意力机制、LoRA 和 LLM 评测等概念。评测部分覆盖 82% 与 80% 的比较、exact match 与 F1、nDCG@k、pass@k、LLM as judge、Elo、RAG 与 Agent 评测、A/B 测试及数据污染等主题。站点默认不启用追踪,仅提供 Google Analytics 开关选项。

10月28日星期三

Hacker News 首页

CaseCite 开源自托管法律 AI 研究平台,称对标 Harvey

CaseCite 是采用 Apache License 2.0 的开源自托管法律研究平台,支持文档问答、合同审查、起草及案例与法官研究。文档、索引和聊天记录保存在自有部署中,但 AI 功能会向配置的服务商发送问题和相关文本;要让文档文本留在内网,需同时自托管聊天模型和嵌入向量模型。

Hacker News 首页

Survival LLM 提供本地运行的开源 AI 助手与应急资料库

Survival LLM 是免费开源的本地 AI 助手与应急资料库,联网完成安装后可离线回答问题,并展示来源文章及对应原文。它支持 Mac 和 Windows,按电脑内存下载适配模型,资料库包含医疗、应急、生存及维修指南和约 930,000 篇 Wikipedia 文章,完整资料库下载量为 9 GB,安装后占用 19 GB。

10月27日星期二

10月22日星期四

MIT Technology Review · AI

AI 的隐性存储账单:推理留下了什么

WD 内部测量显示,一段 8 秒 AI 视频(用户拿到的是 3.97MB 的 720p 文件)在后端留下超过 500MB 关联数据,是输出文件体积的 130 倍。

10月21日星期三

10月19日星期一

AI HOT · 技巧与观点

n8n 教程:在 NVIDIA DGX Spark 上离线运行全套 AI 工作流

n8n 教程展示如何在一台 NVIDIA DGX Spark 上部署七个模型,通过 LiteLLM 的统一接口运行不调用云端 API 的 AI 工作流。实测模型栈占用 108GB 内存,发票字段提取关闭思考后从 12.1s 降至 0.59s,并提供模型版本锁定、服务配置与 n8n 接入步骤。并行生成图像时,单用户聊天速度下降 69%,四用户场景下降 65%,共享 GPU 的任务需要安排调度。

10月10日星期六

Hacker News 首页

软件工程师用 AI 检索历史档案,找到被遗忘的陨石、犀牛与火山喷发记录

一名软件工程师用 AI 检索数百万页历史档案,找到一份陨石报告、3 只犀牛的运输记录及3 起火山喷发候选记录。流程结合语义检索、Jev 初筛、Claude Haiku 精读和 Claude Code 核查原始扫描,并用已知历史事件测试检索能力。主要发现已对照原始页面及可访问的目录,但尚未经相关专家审查;作者正将调查工作流作为 Antiquity 工具包开源。

推荐理由:软件工程师将语义检索、低成本模型筛选与原始扫描核查串联,并用已知事件测试检索流程,为海量档案调查提供可迁移的方法。

10月8日星期四

Hacker News 首页

Docker Agent 支持用 YAML 构建、运行和共享 AI 智能体

Docker Agent 是 Docker CLI 插件,支持通过声明式 YAML 配置构建、运行和共享 AI 智能体,无需编写代码。它支持多智能体自动委派任务、内置工具与 MCP 服务器,以及包含 BM25、嵌入向量、混合搜索和重排序的 RAG,并可将智能体推送至任意 OCI 仓库。

推荐理由:Docker Agent 用 YAML 定义智能体并通过 OCI 仓库分发,让工具配置与多智能体协作流程能够版本化和共享。

10月7日星期三

Google DeepMind

Google DeepMind 发布 EmbeddingGemma 2,支持端侧多模态嵌入向量

Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构,将文本、代码、图像、视频和音频映射到统一嵌入向量空间。模型拥有 740 million 参数,采用 Apache 2.0 许可证,支持 8K token 上下文窗口及完全离线的跨模态搜索与 RAG;纯文本任务仅需 270M 参数,输出向量可从 768 维缩减至 128 维。

推荐理由:EmbeddingGemma 2 将跨模态检索放到本地设备运行,让文本、图像、音频和视频检索无需将数据传至云端。

9月23日星期三

Hacker News 首页

Stripe 内部上线知识型 AI 平台 Kai,83% 员工每周在用

Stripe 发布内部知识 AI 平台 Kai,面向销售、财务等非工程岗位,连接 1,000+ 内部技能与工具,4 月上线两周内覆盖大部分员工,目前 83% 为周活跃用户。

推荐理由:Stripe 为销售、财务等非工程岗位搭建内部知识 AI 平台 Kai,连接 1000 多个内部工具,上线两周覆盖大部分员工,目前周活跃用户达 83%。

9月14日星期一

Hacker News 首页

2026年AI就业市场:谁在被抢、谁在拿高薪、哪些岗位正在消失

作者汇总 LinkedIn、WEF、Stanford AI Index、PwC、Bain 等来源的数据,梳理 2026 年 9 月的 AI 就业市场。AI Engineer 是招聘量最大的岗位,美国每周约 1550 个新职位、中位年薪 176000 美元;前沿实验室 Research Scientist 最具声望,Anthropic 中位年薪约 746000 美元。

推荐理由:作者汇总 LinkedIn、WEF、PwC 等来源数据,梳理 2026 年 AI 岗位的招聘量与薪资差异,AI Engineer 每周约 1550 个新职位、中位年薪 176000 美元。

9月7日星期一

Computing Life · Share · 鸭哥调研

裁员潮之后,撞墙的公司正在把人招回来

文章梳理 2024 至 2026 年企业因 AI 减员后又回招的案例,指出回撤的触发点都是质量信号崩塌而非成本不达标。Klarna 的 AI 客服工作量从相当于 700 名全职员工升至 853,同时重新招聘人工客服;澳大利亚联邦银行裁掉 45 个客服岗一个月后撤销决定。

推荐理由:文章把 Klarna、IBM、澳洲联邦银行等企业 AI 减员后又回招的案例串起来,指出回撤的触发点都是质量信号崩塌而非成本不达标。

8月28日星期五

Computing Life · Share · 鸭哥调研

域模型的第三条路:一家175年公司花4000万美元给出的答案

Thomson Reuters花了4000万美元,在阿里的开源模型Qwen上做法律数据的后期训练,自报法律评分超过了Anthropic Haiku 4.5。纯算力成本只要10到20万美元,真正烧钱的是他们175年攒下的判例法数据库、几百位专家的人工标注,以及一套能拉开分数差距的评测系统。

推荐理由:Thomson Reuters 用 4000 万美元在 Qwen 上做法律数据后期训练,其中纯算力仅 10 到 20 万美元,开销主要落在判例数据库、专家标注和评测系统上。

Hacker News 首页

一套不用框架、在 Colab 上免费跑的 AI 工程师实操笔记

calmrocks 在 GitHub 上放出了一组 Colab 笔记本,面向 AI 工程师和前线部署工程师。内容覆盖了模型 API 调用、结构化输出、工具调用、外挂资料库(RAG)、把评测当主心骨的开发思路、从零手写 agent 循环、工具设计、安全护栏、MCP、Skills、微调与 LoRA 的对比、提示词注入攻击、LLMOps 以及客户落地技巧。

推荐理由:calmrocks 在 GitHub 发布一组免费 Colab 笔记本,覆盖 RAG、agent 循环、评测、微调与安全护栏,全程不依赖框架,可迁移到日常工程实践。

8月25日星期二

Latent Space

吴恩达把 DeepLearning.AI 押注在 AI 工程上,从一万多条招聘里提炼出四项核心技能

Andrew Ng 重启 DeepLearning.AI,将重心转向 AI 工程,并基于对 10000 多份招聘启事的分析、数十场结构化访谈与问卷调研,归纳出四项最重要的 AI 工程技能:构建与部署 AI 应用、软件工程基础、使用编码智能体、参与塑造产品方向。

推荐理由:吴恩达重启 DeepLearning.AI 转向 AI 工程,基于一万多份招聘启事和数十场访谈归纳出四项核心技能,为理解这一岗位的能力构成提供了来自招聘端的依据。

8月21日星期五

Computing Life · Share · 鸭哥调研

听着厉害,和真的厉害

这篇文章把技术圈里的“厉害”拆成了两种:一种是机制真的顶用,能在生产环境扛住边缘案例;另一种是一句话听着就能改变世界。ChatGPT 靠一个被嫌弃的聊天框和三十秒自证,两个月拉来一亿用户;AutoGPT 用一句“自主完成任务”的漂亮话拿到十万星,核心却只是个 for 循环,跑几步就崩。

推荐理由:文章用 ChatGPT 两个月拉来一亿用户与 AutoGPT 十万星却跑几步就崩的对比,拆解技术圈两种厉害的区别。

8月10日星期一

Computing Life · Share · 鸭哥调研

搜索没有变便宜,但 Agent 把它拆成了新的供应链

2026年冒出一堆Agent Web Search API,不是因为做搜索变简单了,而是交付对象从人换成了模型。模型不看广告,只要干净正文和URL引用,这让原本打包在一起的抓取、召回、解析、压缩可以拆开单卖。

推荐理由:2026年集中出现的Agent Web Search API把抓取、召回、解析、压缩拆开单卖,交付对象从人换成模型,这条梳理了搜索供应链这一层结构变化。

8月6日星期四

Computing Life · Share · 鸭哥调研

OpenAI 内部数据 Agent 把 RAG 的检索对象从原始日志换成了离线精编的高密度上下文

OpenAI 的内部数据 Agent 服务 3,500 多人、覆盖 600 PB 数据,在线部分只用了一个 GPT-5.5 模型和约 13 个工具。真正的工作发生在提问之前:用 Codex 去读数据管道的代码,把表名、字段含义这些藏在代码里的业务逻辑提前写成结构化的描述,在线 RAG 再去检索这些加工好的材料。

推荐理由:OpenAI 内部数据 Agent 服务 3,500 多人、覆盖 600 PB 数据,其做法是用 Codex 提前把数据管道代码里的业务逻辑写成结构化描述,在线 RAG 只检索这些离线精编材料。

8月3日星期一

AI HOT 精选

UEmbed:一个模型同时输出稀疏和稠密两种多模态向量

UEmbed 用一个纯解码器模型,在一次前向推理里同时吐出两种向量:稀疏向量(像关键词匹配,但能学到语义)和稠密向量(纯语义压缩)。做法是在输入末尾加 N 个可学习的特殊 token,把整个词表切成 N 份,每个 token 只负责预测自己那份词表上的权重,最后拼成一个完整的稀疏向量。论文发了 2B、4B、9B 三个尺寸,都用公开数据训练。

推荐理由:UEmbed 让一个纯解码器模型在一次前向推理中同时输出稀疏和稠密两种多模态向量,并公开了 2B、4B、9B 三个尺寸的训练方案。

7月25日星期六

Computing Life · Share · 鸭哥调研

OpenAI Presence:把现场失败修成下次能跑通的规则,装进了产品

OpenAI 在 7 月 22 日发布了 Presence,一个面向客服、外呼销售等具体岗位的企业语音和聊天 agent 产品。它的核心卖点不是模型能力,而是把 agent 卡住转人工之后的改进流程做成了标准功能:系统自动保存失败时的完整运行上下文,团队可以在沙盒里复现问题、修补规则、跑回归测试,再通过 Codex 改代码下发。

推荐理由:OpenAI 发布企业语音和聊天 agent 产品 Presence,把 agent 转人工后的失败上下文保存、沙盒复现、规则修补和回归测试做成标准功能。

7月24日星期五

Hacker News 首页

大模型还是不会算数、活在旧数据里,我们只是用外挂把坑填上了

作者拿 GPT Sol High 跑了 200 道加法,错了一道。模型不是在算,是在猜下一个数字长什么样。ChatGPT 能算对,是因为外面的程序把题目丢给了 Python 脚本。文章顺着这个思路拆了另外三个老毛病:知识停在训练截止日,靠外挂资料库(RAG)补;上下文窗口有限;模型骨子里还是有毒。真正的进步不在模型本身,而在包在它外面的那层工具。

推荐理由:作者用200道加法只错一题的测试说明大模型靠猜而非计算,并梳理知识过时、上下文有限、内容有毒三个老问题,指出补上这些坑的是模型外的工具层。

7月19日星期日

Hacker News 首页

AI 狂热正在摧毁全球决策能力

作者过去一年半经手公司销售和技术项目,并和全球约三百位从业者聊过,结论很直接:他看到的企业 AI 项目成功率是 0%。内部聊天机器人没人用,因为公司文档质量差,模型读不到没写下来的东西。对外客服机器人说话自然,但会悄悄丢掉请求——作者找三菱汽车求助,机器人答应回电,六个月过去毫无音讯。管理层回避追踪真实用量,对外却宣称生产力大幅提升。

推荐理由:作者依据一年半经手项目和约三百位从业者的访谈,记录企业AI项目成功率为零、客服机器人丢失请求等具体现象,说明一线落地与对外宣称之间的落差。

7月15日星期三

AI HOT 精选

金山办公发布 WPS Comate,一个能直接调用公司数据、跑自动化任务的 AI 办公客户端

金山办公在 2026 AI 生产力大会上推出了 WPS Comate,定位是给员工用的 AI 办公客户端。它不只是聊天框,而是能接入公司的数据、系统和流程,按岗位调用 AI 专家去完成具体业务,比如跑自动化任务,而不是只给文字建议。产品包含六个模块:AI 岗位专家、Skill 技能生态、自动化任务、团队协作空间、Wiki 知识库和应用广场。

推荐理由:金山办公发布 WPS Comate,定位为接入公司数据、系统和流程的 AI 办公客户端,按岗位调用 AI 专家完成自动化任务,六个模块覆盖技能生态、团队协作与知识库。

7月8日星期三

Computing Life · Share · 鸭哥调研

模型窗口不是无限大的垃圾桶:为什么智能体需要上下文治理

给智能体接上几十个工具后,用户一句简单提问会被淹没在工具定义、日志和抓取数据里。Anthropic 的 MCP 沙箱把 15 万 token 的工具定义压缩到约 2000 token 的高信号输入;Google ADK 把智能体状态拆成工作上下文、会话记忆和文件制品,中间产物默认不占窗口。

推荐理由:Anthropic 用沙箱压缩工具定义,Google ADK 用状态分层隔离中间产物以减少智能体窗口占用。

6月24日星期三

Computing Life · Share · 鸭哥调研

Claude Tag 拆开看:技术上没那么新,但企业授权的对象变了

Claude Tag 把 AI 塞进 Slack 当常驻同事,能主动插话、记住频道聊天。但拆开看,底下还是给 HTTP 端点发请求,记忆存的是原始聊天记录,不是组织经验。真正的变化在另一层:企业开始把 agent 当成需要正经授权、设预算、记审计的非人类执行体来管。

推荐理由:Claude Tag 把 AI 放进 Slack 当常驻同事,文章拆解其底层仍是 HTTP 请求、记忆存原始聊天记录,并指出企业已开始把 agent 当作独立身份来授权、设预算和记审计。

TechCrunch · AI

Anthropic 推出 Claude Tag,让 AI 同事直接蹲在 Slack 频道里读消息学公司业务

Anthropic 发了个叫 Claude Tag 的新功能,相当于在 Slack 里塞了一个常驻 AI 同事。它不是那种你问一句才答一句的机器人,而是会持续读频道里的历史消息,慢慢攒出一套对公司业务、项目背景和团队默契的理解。你可以直接在消息里 @ 它问事,它会结合之前看过的上下文来回答,不用每次都重新交代背景。

推荐理由:Anthropic 在 Slack 里上线常驻 AI 同事 Claude Tag,它持续读取频道历史消息积累业务与项目背景,用户 @ 它提问时可直接调用这些上下文,省去重复交代。

6月22日星期一

AI HOT 精选

微信在首页左上角灰度测试 AI 助手“小微”,能发消息红包,也能在群聊里读聊天记录

小微目前有两个入口。首页左上角的主入口只能给好友发消息和红包,红包需要手动确认,读不了聊天记录,也不能往群里发消息。群聊和私聊里的“问小微”子入口权限更大,可以读聊天记录,也支持群发。小微能建日程提醒、待办,总结朋友圈,还能打通公众号和视频号来回答问题。它的收藏功能只能看到小微自己建的笔记。

推荐理由:微信灰度测试 AI 助手小微,首页主入口只能给好友发消息和红包,群聊与私聊里的子入口则能读聊天记录并支持群发,两个入口的权限差异是这条最具体的看点。

6月10日星期三

r/LocalLLaMA

ICML 论文提出可预测幻觉的“回答-弃权”闸门,并开源 ntkMirror 免训练实现

这篇 ICML 2026 论文给证据型问答任务设计了一个 ISR=1 的闸门:模型在不确定时直接闭嘴不答,而不是硬编。他们同时放出了 ntkMirror,一个免训练的开源实现,能在本地模型上跑。做法是让模型对同一问题看多份不同排序的证据,如果几次回答不一致就弃权。在留出的审计集上,幻觉率压到了 0.0%–0.7%,代价是大约 24% 的问题被主动弃权。

推荐理由:ICML 论文为证据型问答设计弃权闸门,模型在多次证据排序下回答不一致时直接不答,配套开源免训练实现 ntkMirror,审计集上幻觉率降至 0.0%–0.7%,代价是约 24% 的问题被弃权。

6月9日星期二

AI HOT 精选

德国法院裁定:谷歌 AI 概览是谷歌自己的话,说错了要负责

德国慕尼黑地区法院在一项临时禁令中认定,谷歌必须为 AI 概览生成的虚假内容直接担责。起因是谷歌的 AI 概览错误地把两家慕尼黑出版商跟诈骗、订阅陷阱等黑产扯上了关系,而这些指控在 AI 引用的链接原文里根本不存在。

推荐理由:慕尼黑地区法院在临时禁令中认定谷歌须为 AI 概览生成的虚假内容担责,其逻辑是概览用自己的话重组信息即属谷歌自身言论,这为 AI 搜索的合规责任划出了一条具体界线。

The Verge · AI

NotebookLM 换上 Gemini 3.5,能帮你搜资料,还塞了个云端电脑进去

Google 给笔记工具 NotebookLM 换了新模型 Gemini 3.5,官方说回答会更准更靠谱。现在你不用先丢一堆笔记或 YouTube 链接进去,直接问一个话题,它就能用 Google 搜索帮你找相关材料,等于把研究起点又往前挪了一步。另外还提到了一个“云端电脑”功能,但正文没展开讲具体能干什么、怎么用,这点先别太激动。

推荐理由:NotebookLM 换用 Gemini 3.5 后支持直接输入话题,由 Google 搜索代为查找资料,研究起点从整理笔记前移到选题阶段。

6月7日星期日

AI HOT 精选

Harness-1:一个用强化学习练出来的200亿参数检索子智能体,能记住搜索状态

UIUC 和 Chroma 发布了一个叫 Harness-1 的检索子智能体,参数量 200 亿,基于 gpt-oss-20b 训练。它被放在一个“有状态搜索框架”里用强化学习训练,简单说就是模型在搜索时能记住上一步干了什么,再决定下一步怎么查,而不是每次都从头瞎找。

推荐理由:UIUC 和 Chroma 发布的 Harness-1 用强化学习训练 200 亿参数检索子智能体,让模型在搜索中记住上一步动作再决定下一步查询。

6月6日星期六

AI HOT 精选

谷歌给企业级 Gemini 搭了个“多代理协作”的外挂资料库框架,查事实类问题准确率最高提升 34%

谷歌研究院和谷歌云一起搞了个叫“跨语料库检索”的框架,用在 Gemini 企业智能体平台上,本质是让多个 AI 代理分工合作:一个负责理解问题并拆解计划,一个负责改写查询词,一个负责把问题路由到最合适的数据库,还有一个反复去搜、去验证。这套流程比传统 RAG(给模型外挂资料库直接查)在事实类数据集上准确率最多高出 34%。

推荐理由:谷歌研究院和谷歌云在 Gemini 企业智能体平台上把检索拆给多个代理分工,事实类数据集准确率比传统 RAG 最多高 34%。

6月4日星期四

r/LocalLLaMA

英伟达放出 Nemotron-3-Ultra 超大 MoE 模型,550B 总参数但只激活 55B,最低要 8 张 H200 才能跑

英伟达在 Hugging Face 上发布了 Nemotron-3-Ultra-550B-A55B-BF16,一个混合专家(MoE)模型。总参数量 550B,但每次推理只激活其中 55B 参数,相当于用 55B 模型的算力去撬动大得多的知识容量。上下文窗口拉到 1M token,能一口气处理很长的文档。

推荐理由:英伟达发布 Nemotron-3-Ultra,550B 总参数每次只激活 55B,上下文窗口达 1M token,最低需 8 张 H200 才能运行。

6月3日星期三

The Verge · AI

英国裁定:谷歌必须让网站主能拒绝内容被 AI 搜索功能抓取

英国竞争与市场管理局(CMA)对谷歌提出新要求:网站主现在可以把自己的内容从 AI 搜索概览(AI Overviews)这类功能里撤出来,也能禁止谷歌拿这些内容去微调自己的 AI 模型。说白了,就是给了内容方一个“别用我的东西训练你”的选项。不过正文没披露这个退出机制具体怎么操作、是统一开关还是按功能细拆,也没说谷歌需要在多长时间内落实。

推荐理由:英国竞争与市场管理局要求谷歌允许网站主将内容从 AI 搜索概览中撤出,并禁止用于微调其 AI 模型,内容方由此获得对训练数据用途的选择权。

5月30日星期六

量子位 · 公众号

帮 Gemini 拿下 IMO 金牌的建模负责人,差点去当了职业钢琴家

这篇文章讲的是 Yi Tay,他在 Gemini Deep Think 拿到 IMO 金牌级成绩时担任建模联合负责人。他 2023 年参与创立了 Reka AI,639 天后又回到了 Google DeepMind。文章还提到他 2012 年就考过了 Trinity 古典钢琴副学士文凭,差点走上职业演奏的路。

推荐理由:Yi Tay 在 Gemini Deep Think 拿下 IMO 金牌级成绩时担任建模联合负责人,此前参与创立 Reka AI,639 天后回到 Google DeepMind。

5月29日星期五

TechCrunch · AI

Glean 年收入突破 3 亿美元,帮企业砍 AI 预算成了它的核心卖点

Glean 的年收入跨过 3 亿美元,一年翻了三倍,哪怕科技巨头也杀进了企业 AI 搜索这个赛道。它现在的核心卖点不是功能多强,而是帮客户省 AI 预算。不过正文没披露利润率、客户数量,也没说清楚具体怎么帮企业砍预算,这点先别太激动。

推荐理由:Glean 年收入一年翻三倍至 3 亿美元,在科技巨头入局企业 AI 搜索的背景下,其核心卖点已转向帮客户压缩 AI 预算。