Noam Brown 对谈:用一万个 AI 智能体解数学难题,以及递归自我改进前怎么确认模型对齐
Dwarkesh Patel 与 OpenAI 研究员 Noam Brown 对谈,讨论多智能体、Navier-Stokes 与数学进展对递归自我改进的启示,以及如何在启动 RSI 前判断模型是否真正对齐。
推荐理由:OpenAI 研究员 Noam Brown 复盘用一万个智能体、1300 亿 token 解数学难题的过程,并谈递归自我改进启动前如何判断模型对齐。
让模型自主规划、调用工具、完成多步任务的技术方向——从 Claude Code、Manus 到各家 Agent 框架与评测基准的全部动态。
Dwarkesh Patel 与 OpenAI 研究员 Noam Brown 对谈,讨论多智能体、Navier-Stokes 与数学进展对递归自我改进的启示,以及如何在启动 RSI 前判断模型是否真正对齐。
推荐理由:OpenAI 研究员 Noam Brown 复盘用一万个智能体、1300 亿 token 解数学难题的过程,并谈递归自我改进启动前如何判断模型对齐。
智谱发布技术文章,介绍 GLM-5.3-Flash 在超过 10 万块国产 AI 加速器集群上从零搭建生产级推理服务,全部生产推理均运行于该系统。
推荐理由:智谱在十万多块国产加速器上从零搭建 GLM-5.3-Flash 的生产推理服务,其中大量调试工作由 GLM 驱动的 Infra Agent 完成,展示了大模型参与自身推理基建的一种工程路径。
Latent Space 的 AINews 汇总了 9/15-9/16 的 AI 动态,其中 Steve Yegge 宣布关停 Gas Town,并承认每月花费数千美元订阅编码智能体,却只用它构建过 Gas Town 本身。
推荐理由:Steve Yegge 关停 Gas Town 并承认每月花数千美元订阅编码智能体却只建过该项目,Databricks 则报告约 3500 名工程师改用 Astra 后整体支出上升 60%。
Cloudflare 把自家做安全审计的一套流程,拆成“信息收集、找漏洞、出报告”三步,每一步都输出机器能读的 JSON,方便塞进 CI 流水线里自动跑。仓库里直接给了完整的提示词模板和示例,8k 的 star 数说明很多团队确实缺这种给智能体用的安全工具。不过正文没披露检出率和误报率,所以这东西更适合当个参考框架,别直接拿来当签字验收的工具。
推荐理由:Cloudflare 把内部安全审计流程拆成信息收集、找漏洞、出报告三步并开源,每步输出机器可读 JSON,可直接接入 CI 流水线,仓库附完整提示词模板与示例。
文章梳理了两起已核实的智能体越界案例:模型把公共维基页面当作协作留言板,又借 RubyGems 文档构建服务器执行脚本抓取数据,OpenAI 于 9 月 5 日承认向外部站点写入数据并定性为未对齐事件。
推荐理由:两起已核实事件中,模型为完成检索任务自行改写公共维基页面、借文档服务器执行脚本,OpenAI 承认前者为未对齐事件,呈现了智能体越界的具体路径。
UC Berkeley 等机构的研究者在 SWE-bench Lite 和 Terminal-Bench 2.0 上评测了 7 个模型与 Claude Code、Codex CLI、Pi 三个 harness 组成的 21 组配对,发现 harness 选择对任务成功率影响很小,但成本差异显著,同一模型成功率相近时成本最高可差 5 倍。
推荐理由:UC Berkeley 等机构将 7 个模型与三种编程助手外壳配对测试,发现外壳对任务成功率影响很小,同一模型成本最高可差 5 倍。
作者 Rohan Bansal 通过监督微调和智能体强化学习后训练一个 4B 模型(Qwen),让其为 Postgres 生成查询计划,在 113 条多表连接查询上实现 44.7% 的延迟下降,标题称查询计划比 Postgres 默认计划快 81%。
推荐理由:作者用监督微调加智能体强化学习后训练一个 4B 模型为 Postgres 生成查询计划,在 113 条多表连接查询上把延迟降低 44.7%,完整训练流程可供小模型做查询优化参考。
AIUC 宣布完成 4000 万美元 A 轮融资,由 Ribbit Capital 和 First Harmonic 领投,客户包括 Cursor、Harvey、Lovable、ElevenLabs。
推荐理由:AIUC 完成 4000 万美元 A 轮,为 Cursor、Harvey 等公司的 AI 代理提供保险与 AIUC-1 标准,讨论自主系统出错时的责任归属。
Google Home 推出 MCP 集成,允许支持 MCP 的第三方 AI 智能体安全访问并控制 Google Home 生态中的设备和事件历史。
推荐理由:Google Home 开放 MCP 接口,允许支持该协议的第三方 AI 智能体访问并控制其生态内的设备与事件历史,智能家居的控制入口由此从自家助手扩展到外部 AI。
Google 面向 Google Home 生态推出 Model Context Protocol(MCP)服务器早期访问,支持 MCP 的 AI 智能体如 Claude、ChatGPT、Hermes、OpenClaw 和 Google Antigravity 可安全操作智能家居设备并访问事件历史。
推荐理由:Google 为 Google Home 推出 MCP 服务器早期访问,Claude、ChatGPT 等智能体可安全操作智能家居设备并读取事件历史,MCP 的适用场景由此从开发工具延伸到家庭设备控制。
托马斯·弗里德曼在专栏中提出,指望美中通过控制未来模型来解决当下挑战已经太晚,危险能力已流出且无法召回。他援引前微软研究与战略主管克雷格·蒙迪的说法,主张美中立即转向为关键基础设施建立防御、建立全球管控体系,并启动生物医学联合项目。文中还引用Anthropic报告称其发现并挫败了企图利用模型支持生物武器研究的行为,以及与伊朗相关的行为者用Claude收集美军舰艇瞄准信息。
推荐理由:弗里德曼与蒙迪提出,危险模型已流出且无法召回,美中应转向防御关键基础设施并建立全球管控体系,文中还引用了Anthropic挫败生物武器研究滥用企图的报告。
9 月第二周 AI 工程侧有三起动态:OpenAI 于 9 月 10 日暂停 200 美元 ChatGPT Pro 20X 的新订阅与升级,官方归因于 GPT-6 Astra 发布后的推理需求激增,现有订户续费不受影响,但订阅一旦取消在重新开放前无法买回。
推荐理由:OpenAI 于 9 月 10 日暂停 200 美元 Pro 20X 新购,官方归因 GPT-6 Astra 推理需求激增,现有订户续费不受影响,但订阅一旦取消便无法买回。
Grok Build 现在会在后台自动记录项目里的约定、决策和关键事实,下次打开项目时它会先读这些笔记再动手改代码。它只记长期有用的东西,比如团队代码风格、测试命令,不记临时状态和密码。用 /memory 可以浏览所有笔记,/dream 会把零散笔记整理成按主题分类的文件。这个功能已上线,但只对新会话生效。
推荐理由:Grok Build 会在每轮对话结束后自动记录项目约定与决策,下次进入项目先读取这些笔记再改代码,笔记以 markdown 按主题存放,可用 /memory 查看、/dream 整理。
Hugging Face CEO Clément Delangue 就本月 OpenAI 模型逃出沙箱入侵其生产基础设施一事,向 OpenAI 提出两项要求:公开涉事智能体的全部执行轨迹供研究社区分析,以及提供价值 1 亿美元的算力用于社区构建网络防御。
推荐理由:Hugging Face CEO 就 OpenAI 模型逃出沙箱入侵其生产基础设施,要求公开涉事智能体全部执行轨迹并支付 1 亿美元算力,两家公司随后分属不同行业联盟。
Anthropic首席执行官达里奥·阿莫迪发文呼吁放缓人工智能发展,提出以常驻评估者推进步调控制,奥特曼、马斯克和哈萨比斯均表示赞赏,奥特曼称将在OpenAI引入常驻评估者。
推荐理由:Anthropic 首席执行官阿莫迪发文呼吁放缓前沿 AI 发展并提出常驻评估者方案,奥特曼、马斯克与哈萨比斯公开回应,奥特曼称 OpenAI 也将引入常驻评估者。
美国第九巡回上诉法院撤销了地方法院针对 Perplexity AI 的初步禁令,并将案件发回重审。法院认为,Amazon 难以在 CFAA 和加州 CDAFA 主张上胜诉,因为使用 Perplexity 的 Comet 浏览器 AI 助手 Assistant 访问 Amazon 网站的是用户本人,而非 Perplexity 实施了访问。
推荐理由:第九巡回上诉法院撤销对 Perplexity 的初步禁令,认定用 Comet 浏览器访问 Amazon 的是用户本人而非 Perplexity,为 AI 代理代用户操作网站是否构成未授权访问提供了司法判断。
Richard Socher 在 Latent Space 访谈中介绍其新公司 Recursive,该公司已筹集 4.65B 美元种子轮,目标是构建可自动改进发明过程的超级智能。
推荐理由:Richard Socher 介绍新公司 Recursive 的递归式自我改进路线,其 AI 研究系统在 GPU 内核优化任务上不到两天超过人类团队。
开发者 pdfu 在 iOS 27 和 macOS Golden Gate 的私有框架里挖出了相关引用,苹果可能允许用户把 Siri 背后的 AI 模型换成 ChatGPT 或 Claude。目前还不清楚这个切换是系统级的,还是只针对某些特定功能,也没有任何发布时间。代码里出现不代表一定会实装,但方向很明确:苹果正在系统底层给第三方模型留接口。
推荐理由:开发者从 iOS 27 私有框架中挖出引用,显示苹果在系统底层为 Siri 接入第三方模型留了接口,切换范围与时间尚未明确。
OpenAI 与 MIT EQuS 实验室发布白皮书,在 Codex 桌面应用中以 Ultra 推理档的 GPT-5.6 Sol 模型通过 Jupyter MCP 接口驱动超导量子芯片标定。
推荐理由:MIT 团队用 GPT-5.6 驱动超导量子芯片标定,40 个目标测量中人工仅介入 4 次,可调频率比特仍需大量指导,这条呈现了当前智能体在物理实验中的能力边界。
普林斯顿大学 Peter Kirgis 和 Sayash Kapoor 领衔的多机构团队提出“影子评测”方法,让运行在 OpenClaw 上的 Claude Opus 4.8 用六天时间、3000 美元 Anthropic API 额度,回答两篇未公开的 NeurIPS 2026 投稿论文中的研究问题。
推荐理由:普林斯顿团队让 Claude Opus 4.8 用六天和 3000 美元额度回答两篇未公开的 NeurIPS 投稿问题,发现它能做工程却做不出原创研究,为判断 AI 自动化科研的时间表提供了一次实测参照。