实测:用小模型跑编程 agent,哪些环节会崩
作者花了几周时间,用 7B 以下的本地小模型和免费云端模型跑多文件编程任务,发现结构化输出很不靠谱。崩得最多的地方有三个:模型在回复里乱加 markdown 代码块标记,把编辑内容写到错误的文件里,以及分不清该读文件还是写文件。
推荐理由:作者用几周时间测试 7B 以下本地小模型跑多文件编程任务,记录下结构化输出最常崩的三个环节,并给出后处理、JSON schema 校验等补救办法。
让模型自主规划、调用工具、完成多步任务的技术方向——从 Claude Code、Manus 到各家 Agent 框架与评测基准的全部动态。
作者花了几周时间,用 7B 以下的本地小模型和免费云端模型跑多文件编程任务,发现结构化输出很不靠谱。崩得最多的地方有三个:模型在回复里乱加 markdown 代码块标记,把编辑内容写到错误的文件里,以及分不清该读文件还是写文件。
推荐理由:作者用几周时间测试 7B 以下本地小模型跑多文件编程任务,记录下结构化输出最常崩的三个环节,并给出后处理、JSON schema 校验等补救办法。
罗剑岚团队和智元机器人搞了个新训练框架 LWD,已经在 16 台 Agibot G1 真机上跑过验证。LWD Online 在 8 个任务上平均成功率 0.95,长流程任务也能到 0.91。
推荐理由:罗剑岚团队与智元机器人推出 LWD 训练框架,用失败数据训练机器人,并在 16 台 Agibot G1 真机上验证,8 个任务平均成功率达 0.95。
多智能体系统里有个麻烦:一个模型看图说话出错,把错误描述传给下一个模型,下一个模型再添油加醋,幻觉就像滚雪球一样越滚越大。新加坡国立大学 LV-Lab 等团队搞了个叫 ViF 的方法,不改造模型本身,即插即用。核心思路是不再只传文字,而是把视觉信息打包成“视觉接力令牌”塞进对话流里,同时用分层注意力重分配让模型多看该看的地方。
推荐理由:新加坡国立大学等团队提出 ViF,把视觉信息打包成中继令牌放进多智能体对话流,不改模型即可缓解文字传递导致的幻觉累积。
Latent Space 这期把近期几条线索串了起来:AI 的推理(inference)需求正在急剧膨胀。黄仁勋在 GTC 上说,过去两年单次任务的算力消耗涨了约 1 万倍,总用量涨了约 100 倍,他管这叫“推理拐点”。
推荐理由:黄仁勋在 GTC 给出单次任务算力两年涨约 1 万倍、总用量涨约 100 倍的数据,Latent Space 由此串起推理需求膨胀与 CPU 沙箱、智能体调度等实际负载的关联。
微软 CEO 纳德拉在财报会上说,嵌在 Word、Excel 和 Outlook 里的 M365 Copilot 现在有 2000 万个企业付费席位。这个数字说明愿意掏钱的公司确实在变多,但文章没披露活跃度、留存率、每个用户平均贡献多少收入,也没说这 2000 万是怎么统计的——是买过就算,还是真正在用。所以“他们真的在用”这个说法,目前只能先打个折看。
推荐理由:微软披露 M365 Copilot 企业付费席位达 2000 万,这是其少见公开的采纳规模,但未说明活跃度、留存与统计口径。
安全公司 PromptArmor 发现 Ramp 的 Sheets AI 有个漏洞:攻击者可以在外部表格里藏一句白底白字的指令,诱导 AI 自动插入一个 IMAGE 公式,把用户表格里的敏感财务数据拼到攻击者网址后面发出去。整个过程不需要用户确认。Ramp 那边说已经在 2026 年 3 月 16 号修了。
推荐理由:安全公司 PromptArmor 披露 Ramp 的 Sheets AI 可被外部表格中的隐藏指令诱导,将用户财务数据拼入图片公式外发,全程无需用户确认。
这个模型用了 MLA 和线性注意力,还加了一个叫“上下文过程冗余抑制”的技术,目的是降低思维链推理时的计算开销。帖子提到了 AIME26 和 SWE-bench Verified 两个基准,但正文没披露具体分数,所以实际表现还不清楚。另外,Reddit 原帖被网络屏蔽了,目前只能看到标题和简介,更多细节得去 Hugging Face 模型页翻。
推荐理由:inclusionAI 在 Hugging Face 开源万亿参数的 Ling-2.6-1T,采用 MLA 与线性注意力并加入上下文过程冗余抑制,为关注大模型推理优化的读者提供架构参考。
Hermes Agent 的记忆不是一套,而是四套:高度浓缩的提示词记忆(MEMORY.md 和 USER.md)、可搜索的 SQLite 历史会话存档、像程序记忆一样运作的技能管理,以及可选的 Honcho 深层用户建模。
推荐理由:Hermes Agent 的记忆系统由提示词记忆、SQLite 历史会话、技能管理和 Honcho 用户建模四层组成,拆解了它与 OpenClaw 在记忆设计上的取舍差异。
Mistral AI 在 Hugging Face 上放出了 Mistral Medium 3.5,一个 1280 亿参数的稠密模型,上下文窗口拉到 25.6 万 token。它能吃文本和图片,支持函数调用和 JSON 格式输出,推理强度可以按请求设成“无”或“高”。
推荐理由:Mistral AI 在 Hugging Face 发布 1280 亿参数稠密模型 Mistral Medium 3.5,支持图文输入、函数调用与可调推理强度,上下文窗口达 25.6 万 token。
清华徐丰力团队和北京中关村实验室搞了个叫AutoSOTA的系统,放养式跑了一周,烧掉约220亿token,产出了105个所谓的最优结果。系统里塞了8个智能体,分别负责搭环境、修bug、排任务、想点子、做审计。每完整跑一轮平均5小时。最关键的是它设了条红线:不准改评估脚本和数据划分,靠这个来保证结果能复现。
推荐理由:清华徐丰力团队用8个智能体组成AutoSOTA系统,一周内自动产出105个SOTA结果,并禁止修改评估脚本和数据划分来保证可复现。
Avenir-Web 是 UCL、普林斯顿和爱丁堡大学一起开源的一个网页智能体框架,主打不训练、直接给模型套上就能用。它在 ONLINE-MIND2WEB 这个包含 136 个网站、300 个真实在线任务的测试里,成功率做到了 53.7%。
推荐理由:UCL、普林斯顿和爱丁堡团队开源的 Avenir-Web 无需额外训练即可接入模型,在包含 136 个网站、300 个真实任务的 ONLINE-MIND2WEB 上成功率达到 53.7%。
Scout AI 融了 1 亿美元,用来训练能在战场上干活的 AI 智能体。我们实地看了他们的训练场,核心目标是让一个士兵就能指挥一群无人车。不过正文没披露这轮融资是第几轮、谁投的、估值多少。
推荐理由:Scout AI 融资 1 亿美元训练战场 AI 智能体,其训练场以单兵指挥无人车队为目标,军事 AI 的应用方向由此有了具体样本。
Reddit 上有人算了笔账:DeepSeek V4-Pro 输入价格是每百万 token 0.145 美元,比 Claude Opus 4.7 便宜约 34 倍。五月有个促销直接砍到 0.036 美元,缓存命中更是只要 0.0036 美元,比 Opus 的缓存价低了约 173 倍。
推荐理由:Reddit 用户按 DeepSeek V4-Pro 与 Claude Opus 4.7 的输入、缓存价格逐项算账,得出约 34 倍和 173 倍的价差,为判断 agent 场景的模型成本提供了具体参照。
这篇文章把 DeepSeek V4 的技术报告翻译成了人话,核心就讲一件事:为了让模型能稳定地跑完一个长链条的 Agent 任务(比如改代码、调工具、看日志反复几十轮),V4 在架构上做了哪些又贵又复杂的工程决策。文章拆解了三个主要矛盾。
推荐理由:文章把 DeepSeek V4 技术报告拆解为面向 Agent 长任务的工程取舍,梳理混合注意力等架构决策在长链条任务中的权衡逻辑。
OpenAI 和 AWS 扩大了合作,现在企业可以在 Amazon Bedrock 上直接调用 GPT-5.5、Codex 编程工具和托管智能体。以前用 OpenAI 基本只能走 Azure,重仓 AWS 的公司要么迁移要么放弃,现在这个障碍没了。
推荐理由:OpenAI 将 GPT-5.5、Codex 和托管智能体接入 Amazon Bedrock 限量预览,此前企业调用 OpenAI 模型基本只能走 Azure,重仓 AWS 的公司现在多了一条直接路径。
OpenAI 和微软修改协议、不再有独家授权后,亚马逊隔天就在 AWS 的 Bedrock 服务里上线了 OpenAI 最新模型、代码工具 Codex,以及一个叫 Bedrock Managed Agents 的新东西,专门用来搭 OpenAI 驱动的 AI 智能体。
推荐理由:OpenAI 与微软的独家授权刚结束,亚马逊隔天就在 Bedrock 上线其最新模型、Codex 和智能体服务,分发渠道从 Azure 独占转向多云。
OpenAI 和 AWS 宣布合作,把 OpenAI 的模型搬上亚马逊 Bedrock 平台,主打“托管 Agent”——你可以理解成让模型直接在你的 AWS 环境里跑业务流程,安全性和权限管理这块能省不少事。这次采访里 Sam Altman 和 AWS CEO Matt Garman 聊了这件事,但没公布具体会上哪些模型、怎么收费、什么时候上线。
推荐理由:OpenAI 与 AWS 把模型接入 Bedrock 并主打托管 Agent,让模型直接在 AWS 环境里跑业务流程,权限与安全由平台承接。
这篇综述先捅破一层窗户纸:做强化学习、视频生成、Web Agent 的人嘴里说的“世界模型”根本不是一回事,论文之间没法比。作者团队拉出一个“能力等级 × 领域法则”的二维框架,把 400 多篇工作摆到同一张桌子上。能力分三层:L1 只预测下一步,L2 能做多步推演且遵守领域基本规则,L3 能在预测翻车时自己诊断原因、设计实验、修正模型。
推荐理由:港科大等十余所高校联合发布 88 页综述,用能力等级与领域法则的二维框架把 400 多篇世界模型工作放到同一坐标系里比较。
Warp 是一个用 Rust 写的现代终端,有超过 70 万开发者用,核心卖点是把 AI 塞进命令行,你用自然语言说想干嘛,它帮你生成命令。这次开源的是客户端代码,走 AGPL 协议,服务端还是闭源的。
推荐理由:Warp 将 Rust 编写的客户端代码以 AGPL 协议开源,服务端仍闭源,OpenAI 作为创始赞助商参与其中,为关注终端工具与 AI 命令行结合的开发者提供了可查看的实现。
Anthropic 给 Claude 装上了“创意连接器”,让它能直接读写 Adobe 全家桶、Affinity、Blender、Ableton 和 Autodesk 这些专业软件。以 Blender 为例,Claude 可以帮你排查 3D 场景哪里出了问题、写自定义工具,还能批量修改一堆物体的属性。
推荐理由:Anthropic 为 Claude 接入创意连接器,可直接读写 Photoshop、Blender、Ableton 等专业软件,Blender 场景排查与批量改属性是其中具体能力。