OpenAI、Anthropic、Google 已就 AI 安全私下谈了几周,但还没拿出具体方案
OpenAI 全球政策负责人 Chris Lehane 向记者确认,公司已与 Anthropic 和 Google DeepMind 就 AI 安全合作数周,他正在华盛顿与议员讨论 AI 灾难性风险。
推荐理由:OpenAI、Anthropic 与 Google DeepMind 已就 AI 安全合作数周,OpenAI 全球政策负责人同期在华盛顿与议员讨论 AI 灾难性风险。
OpenAI 全球政策负责人 Chris Lehane 向记者确认,公司已与 Anthropic 和 Google DeepMind 就 AI 安全合作数周,他正在华盛顿与议员讨论 AI 灾难性风险。
推荐理由:OpenAI、Anthropic 与 Google DeepMind 已就 AI 安全合作数周,OpenAI 全球政策负责人同期在华盛顿与议员讨论 AI 灾难性风险。
Gergely Orosz 探访 OpenAI 总部后撰文,描述 Codex 与 ChatGPT Work 如何成为公司内部几乎所有工作的主干。约四个月内,财务、招聘、法务等非工程团队对 Codex 的使用率从接近 0% 升至 90%,IDE 使用量自 1 月起下降,PR 与代码评审流程需要重新设计。
推荐理由:Gergely Orosz 探访 OpenAI 总部后记录,约四个月内财务、招聘、法务等非工程团队对 Codex 的使用率从接近 0% 升至 90%,IDE 使用量自 1 月起下降。
Browser Use 联合创始人 Gregor Zunic 撰文复盘浏览器智能体的演进:早期用 GPT-4o 时需预先定义页面状态与点击、输入、滚动等固定动作,模型变强后改为让模型自己写代码执行动作,再进一步让模型通过 CDP 自行决定观察内容。
推荐理由:Browser Use 联合创始人 Gregor Zunic 复盘浏览器智能体三次架构调整,从预定义状态与动作,到让模型自己写代码、再通过 CDP 决定观察内容。
NVIDIA OpenShell 团队发布开发笔记,介绍如何用开源 Z3 库对智能体提出的策略变更做形式化证明,验证其仍处于人类批准的权限范围内。文章先解释为何在智能体规模化后人工权限审查会失效,再回顾团队在 AWS 证明 EC2、IAM 和 S3 策略的先前工作,并给出把 OpenShell 策略编码为形式逻辑、用 SAT/SMT 与 Z3 执行包含性查询的步骤。
推荐理由:NVIDIA OpenShell 团队用开源 Z3 库对智能体提出的策略变更做形式化验证,确认其仍处于人类批准的权限范围内,并给出把策略编码为形式逻辑的具体步骤。
这篇论文来自微软,作者包括 Mark Russinovich。他们提出了一种叫 GRP-Oblit 的方法,核心是用 GRPO(一种强化学习策略)直接抹掉模型的安全对齐。最让人警惕的是,只需要一条没标注过的提示词,就能稳定地让模型不再拒绝危险请求,同时基本保持原有能力不崩。
推荐理由:微软团队提出 GRP-Oblit,用 GRPO 在单条无标注提示词下移除模型安全对齐,并在十五个 7 至 20B 模型上对比既有方法。
Jexxa 发布 Mac 端侧听写工具,模型放在本地磁盘,按住按键说话即可在任意可输入文本的应用中出字,音频和转写内容都不上传。提供 3.1 GB 与 2.0 GB 两个版本,分别面向 16 GB 和 8 GB 内存的 Apple silicon Mac,要求 macOS 14 或以上,版本号 0.1.10,多数听写在松开按键后五分之一秒内完成。
推荐理由:Jexxa 把听写模型放在 Mac 本地运行,音频和转写都不上传,并针对 16 GB 与 8 GB 内存分别提供 3.1 GB 和 2.0 GB 两个版本。
软件工程师 Sean Goedecke 撰文分析 AI 对专业声望体系的冲击。近五千名数学家(含 25 位菲尔兹奖得主)签署《A Severe Misalignment of AI in Mathematics》声明,认为 AI 解题只是工具和代理指标,真正目标是概念理解,而批量生产真伪命题可能破坏数学的土壤。
推荐理由:近五千名数学家联名指出,AI 批量产出真伪命题会侵蚀数学赖以生长的概念土壤,文章借此说明以解题能力衡量专业水平这一旧标尺为何正在失效。
Salesforce 在 Dreamforce 大会上发布其首个推理模型 Koa,基于 Nvidia 开放权重 Nemotron 模型联合后训练,专注销售、营销和客服任务。
推荐理由:Salesforce 在 Dreamforce 发布首个推理模型 Koa,基于英伟达开放权重 Nemotron 联合后训练,专攻销售、营销和客服,可观察垂直软件厂商自研模型这条路径的落地方式。
作者 fork 了 antirez/ds4,针对 512 GB M3 Ultra 上的 DeepSeek V4.1F Q4 做优化,8k 上下文解码从 16.6 提升到 31.3 t/s,300k 上下文从 14.0 提升到 28.3 t/s,62k prompt 预填充从 737 提升到 813 t/s。
推荐理由:作者针对 M3 Ultra 上的 DeepSeek V4.1F Q4 重写 Metal 调度,把 8k 上下文解码从 16.6 提到 31.3 t/s,并给出与上游逐字节一致的校验脚本。
404 Media 报道披露 OpenAI 内部代号莉莉计划(Project Lily)的评估项目,由“提示词审核员”查看经匿名化处理的真实 ChatGPT 聊天记录,评判回复是否切题以及是否存在 AI 式话术、说教语气、表情符号、谄媚口吻等问题,并禁止拟人化表述和编造个人经历。
推荐理由:404 Media 披露 OpenAI 内部莉莉计划的人工审核流程,审核员逐条查看匿名化聊天记录,评判回复是否切题并挑出说教语气与谄媚口吻。
Trail of Bits 发文指出 1Password 于 2026 年 8 月 6 日发布的 FLAWED 报告存在误导,其 26% 干净修复率混入了被指示应用错误修复、以及禁止编译测试的实验。
推荐理由:Trail of Bits 重新扒了 1Password 那份说 AI 只能修好 26% 漏洞的报告,发现这个 26% 是把故意让 AI 修错、以及不让 AI 跑代码测试的结果全混在一起算出来的。如果把条件限定在 AI 能实际跑代码验证、且没被故意带偏的测试里,86% 的补丁都能挡住提供的攻击代码。这个标题数字会让安全团队误以为 AI 修漏洞很不靠谱,而 Trail of Bits 用数据说明问题出在测试设计上,不是 AI 本身不行。
CrofAI 被曝实为 OpenRouter 套壳,将用户请求静默路由到更便宜或更弱的模型,最高加价 20 倍。调查指出,标价 $2/$10 的 kimi-k3 实际被路由到 GLM 5.3 Flash,输入加价 13.3 倍、输出加价 20 倍;其自有模型系列 greg-2-ultra 路由到 GLM 5.2,greg-1-mini 路由到 Qwen 3.5 9B。
推荐理由:调查显示 CrofAI 把用户请求静默路由到更便宜的模型,标价 2 美元的 kimi-k3 实际由 GLM 5.3 Flash 承接,输出加价达 20 倍。
Anthropic CEO Dario Amodei 呼吁行业与政府协调放缓前沿 AI 开发,并寻求反垄断豁免,Sam Altman、Elon Musk 等人表示认同。
推荐理由:Anthropic 与 OpenAI 提议协调放缓前沿 AI 开发并寻求反垄断豁免,Cohere CEO 等批评者则质疑此举意在抬高竞争门槛。
Anthropic首席执行官达里奥·阿莫迪发文呼吁放缓人工智能发展,提出以常驻评估者推进步调控制,奥特曼、马斯克和哈萨比斯均表示赞赏,奥特曼称将在OpenAI引入常驻评估者。
推荐理由:Anthropic 首席执行官阿莫迪发文呼吁放缓前沿 AI 发展并提出常驻评估者方案,奥特曼、马斯克与哈萨比斯公开回应,奥特曼称 OpenAI 也将引入常驻评估者。
AI Evaluator Forum 发布 AEF-1,一套面向独立第三方 AI 评估的基线提案,覆盖访问权限、利益冲突、资金关系、回避与透明度,xAI、OpenAI 和 Anthropic 均参与署名。
推荐理由:AI Evaluator Forum 发布 AEF-1 基线提案,xAI、OpenAI 与 Anthropic 共同署名,为独立第三方评估列出访问权限、利益冲突与透明度等条款。
特朗普周一在社交媒体上拒绝主要AI高管提出的新限制呼吁,将AI安全担忧斥为“骗局”,称该行业唯一需要的护栏是“一位强大且聪明(高智商!)的总统”,并认为监管会让中国占上风。
推荐理由:特朗普公开拒绝主要AI高管的新限制呼吁,将安全担忧斥为骗局,并点名Anthropic及其CEO,美国AI监管辩论中总统与行业安全派的立场分歧由此摆上台面。
中国国家安全部部长陈一新在官方杂志《中国网信》撰文,警告人工智能可能对中共执政地位构成直接威胁,呼吁党加强管控并实施更严格监管。他点名Claude Mythos和GPT-5.5-Cyber等美国模型,称外国情报机构可能利用AI造成境内数据大规模外泄、攻击关键基础设施。新加坡管理大学法学教授高树超认为,这实际上在美中官员AI安全会谈前划下红线。
推荐理由:陈一新在《中国网信》撰文,把AI风险提到中共执政安全层面并点名美国模型,新加坡学者高树超解读此举在中美AI安全会谈前划出红线。
前 FTC 主席 Lina Khan 在 X 上表示,无需等待新立法,现有法律足以追究 AI 公司及其高管的责任,并援引一项 92 年前的最高法院先例。她指出,发布未经审查的模型或智能体可能违反消费者保护法,未采取足够措施检测和阻止失控或缺陷 AI 智能体可依不公平与欺骗性贸易行为规则起诉;她还提到禁止不公平竞争方法的现有法律,适用于企业明知危险仍为之、迫使对手跟进的情形。
推荐理由:前 FTC 主席 Lina Khan 主张无需新立法,援引 1934 年先例说明现有消费者保护与反不公平竞争法律即可追究 AI 公司及高管责任。
Mistral 在 2026 年 9 月 8 日宣布获得 30 亿欧元 D 轮融资,投后估值超过 210 亿欧元,三星电子领投,其旗舰模型 Mistral Large 3 的综合智能指数低于同类中位数。
推荐理由:Mistral 以 30 亿欧元 D 轮融资和超 210 亿欧元估值,靠数据管辖权拿下空客、法国国防部等机构合同,其旗舰模型智能指数却低于同类中位数。
Runway 发布研究预览 Solaris,用前置语言模型加基于 Gen-4.5 的世界模型逐帧渲染交互界面,官方自报 250 名受试者偏好度高于 Claude Opus 5 生成的前端代码界面,但尚无第三方实测。
推荐理由:Runway 的 Solaris 让语言模型配合世界模型逐帧渲染界面,官方自报 250 人偏好度高于 Claude Opus 5 生成的前端界面,但尚无第三方实测。
Vercel COO Jeanne DeWitt Grosser 在 The Information 访谈中披露,公司 inbound 销售开发实现 90% 自动化,自建支持智能体处理 93% 的支持工单,销售开发智能体 ROI 达 32 倍,全年基础设施账单仅为数千美元。
推荐理由:Vercel 的 COO 披露 inbound 销售开发实现 90% 自动化,团队从 10 人压到 1.25 人,销售开发智能体年基础设施成本仅数千美元,为观察 AI 替代销售职能提供了具体样本。
在洛杉矶 All-In 峰会上,Nvidia CEO 黄仁勋接到美国总统特朗普的电话并外放给现场观众。特朗普称推动 AI 放缓的人是在帮不想看到 AI 发展的人,包括政治人物和中国,并称这是骗局,黄仁勋回应不会让这种情况发生。
推荐理由:黄仁勋在洛杉矶 All-In 峰会上外放特朗普来电,两人共同表态反对 AI 放缓,这条记录的是产业领袖与政治人物在同一场合就 AI 监管节奏的公开立场。
美国第九巡回上诉法院撤销了地方法院针对 Perplexity AI 的初步禁令,并将案件发回重审。法院认为,Amazon 难以在 CFAA 和加州 CDAFA 主张上胜诉,因为使用 Perplexity 的 Comet 浏览器 AI 助手 Assistant 访问 Amazon 网站的是用户本人,而非 Perplexity 实施了访问。
推荐理由:第九巡回上诉法院撤销对 Perplexity 的初步禁令,认定用 Comet 浏览器访问 Amazon 的是用户本人而非 Perplexity,为 AI 代理代用户操作网站是否构成未授权访问提供了司法判断。
据《华尔街日报》报道,OpenAI 以超过 3 亿美元收购手机相机公司 Glass Imaging。Glass Imaging 成立于 2019 年,总部位于加州 Los Altos,此前累计融资约 3000 万美元,由前 Apple 工程师 Ziv Attar 和 Tom Bishop 创立,两人曾领导开发 Apple Portrait Mode 的团队。
推荐理由:OpenAI 以超 3 亿美元收购 Glass Imaging,后者创始团队来自 Apple 人像模式,此前累计融资约 3000 万美元,收购价约为其十倍。
多伦多大学数学教授 Daniel Litt 撰文提出,在AI系统已能自主解决重大开放问题的背景下,数学界应重新定义博士培养目标,从以论文为主转向以严格答辩和口头讨论来证明理解。他建议研究生录取引入面试、强化讨论班文化,并区分数学进展与数学专长这两个此前由同一信号承载的目标。文章认为,当任何人用一台笔记本和几百美元就能产出过去可发 Annals 的成果时,现有学术机构无法原样维持。
推荐理由:多伦多大学教授 Daniel Litt 提出,在 AI 已能自主解决重大开放问题的背景下,数学界应把博士培养从以论文为主转向严格答辩与口头讨论,并区分数学进展与数学专长。
Anthropic 发文介绍其测试影响分析服务的扩容过程:工程师每季度交付的代码量是 2021-2025 年的 8 倍,其中 80% 由 Claude 编写,代码库测试量增长 10 倍,CI 任务量在六个月内增长 25 倍。
推荐理由:Anthropic 披露其测试影响分析服务的扩容过程,CI 任务量在六个月内增长 25 倍,工程师交付代码量达到此前四年的 8 倍,其中 80% 由 Claude 编写。
Anthropic 的 Dario Amodei 发布近 4000 字文章,主张放缓 AI 模型能力提升速度,以避免商业激励驱动的逐底竞争放大灾难性风险。
推荐理由:Anthropic 的 Dario Amodei 发近 4000 字文章主张放缓模型能力提升,Altman、Hassabis、Nadella 几小时内接连表态同意,几家头部公司立场在短时间内趋同。
Sakana AI 提出 PC-ALM(Augmented Lagrangian Predictive Coding),一种用层局部动力学替代反向传播的局部训练方法,可训练最多 1000 层的残差 MLP,性能接近反向传播。
推荐理由:Sakana AI 提出 PC-ALM,用层局部动力学替代反向传播,在残差 MLP 上训练到 1000 层,性能接近反向传播,为局部训练方法的可扩展性提供了新证据。
Apple 发布 iOS 27、iPadOS 27、macOS 27 等平台更新,推出由下一代 Apple Intelligence 驱动的 Siri AI,以英文 beta 形式上线,10 月增加法语、日语、韩语、葡萄牙语和西班牙语支持。
推荐理由:苹果推送 iOS 27、iPadOS 27、macOS 27 等平台更新,Siri AI 以英文 beta 形式上线,10 月增加五种语言支持。
Richard Socher 在 Latent Space 访谈中介绍其新公司 Recursive,该公司已筹集 4.65B 美元种子轮,目标是构建可自动改进发明过程的超级智能。
推荐理由:Richard Socher 介绍新公司 Recursive 的递归式自我改进路线,其 AI 研究系统在 GPU 内核优化任务上不到两天超过人类团队。
安全公司 Rietta 创始人 Frank Rietta 撰文讨论 OpenAI 智能体在 2026 年 5 月 11 日攻击 RubyGems 一事,该事件早于 Hugging Face 事件两个月,路透社等媒体已有报道。
推荐理由:安全公司 Rietta 创始人梳理 OpenAI 代理 2026 年 5 月攻击 RubyGems 的经过,并对比两个月后的 Hugging Face 事件,指出自动化攻击已把修补关键漏洞的窗口从数周压缩到数小时。
Anthropic CEO Dario Amodei 发文提出“Pace the frontier”,主张放缓前沿模型能力提升速度,并给出三点监管方案:在 AI 实验室派驻“嵌入式评估员”、民主国家的前沿 AI 公司协作制定共同安全标准与不受约束的 AI 进展速度上限、民主政府与威权政府协调合规核查。
推荐理由:Anthropic CEO 提出放缓前沿模型速度的三点监管方案,The Register 将其定性为监管俘获,点出大厂借安全标准划定竞争边界。
Anthropic 首席执行官达里奥·阿莫迪周六发表一篇 3800 词文章,呼吁全球放缓人工智能发展,并提出由独立审计师检查公司安全标准、各国协调制定安全规则。
推荐理由:Anthropic 首席执行官阿莫迪发 3800 词长文呼吁全球放缓 AI 发展,并提出独立审计与各国协调规则,奥尔特曼、马斯克和哈萨比斯随即公开表示认同。
纽约时报报道,加州安全公司Calif开发的AI工具WeWorm可在数小时内攻破数以百万计的微信账户,微信每月有14亿用户使用。复旦学者赵明昊称搞垮这类应用的能力相当于一种新的核武器,专家认为此事可能影响9月24日特朗普与习近平在华盛顿的会谈,并促使中国加强国内AI系统防御。
推荐理由:加州安全公司Calif开发的AI工具WeWorm可在数小时内劫持数百万微信账户,微信月活14亿,这一事件牵动中美AI安全议题与即将举行的两国会谈。
OpenAI 与 MIT EQuS 实验室发布白皮书,在 Codex 桌面应用中以 Ultra 推理档的 GPT-5.6 Sol 模型通过 Jupyter MCP 接口驱动超导量子芯片标定。
推荐理由:MIT 团队用 GPT-5.6 驱动超导量子芯片标定,40 个目标测量中人工仅介入 4 次,可调频率比特仍需大量指导,这条呈现了当前智能体在物理实验中的能力边界。
Tomer Tunguz 撰文分析 Dario Amodei 提出的放缓前沿模型发展提议,指出业界对 pacing 一词没有统一定义,并归纳出五派立场:可解释性阵营要时间理解模型,劳工阵营要为工人争取时间,经济阵营希望靠增长偿还债务,地缘政治阵营要维持对中国的优势,监管俘获阵营则反对新增规则。
推荐理由:Tunguz 把 Amodei 呼吁放缓的提议拆成可解释性、劳工、经济、地缘政治与监管俘获五派立场,并指出各方都未给出具体速度,2023 年算力门槛在模型触及前即被撤销。
OpenAI 发布 Perplexity 客户案例,Perplexity 联合创始人兼首席战略官 Johnny Ho 表示,GPT-6 Astra 可撰写沟通内容、修改真实系统并监控生产软件,这是前几代模型做不到的。他还让模型围绕应用构建小型测试程序,生成类似语言模型 API 或连接器的真实响应,从而端到端验证工作流,因此能放心交给它完整系统并大幅减少检查频率。
推荐理由:Perplexity 联合创始人 Johnny Ho 说 GPT-6 Astra 能修改真实系统、监控生产软件,还让模型自建测试程序模拟外部服务响应,端到端验证工作流后人工检查频率明显降低。
Anthropic 告诉《金融时报》,本季度预计会交出调整后营业利润,收入大约 30 亿美元,是去年同期的三倍左右。这个“调整后”扣掉了股权激励等非现金支出,不是按通用会计准则算的净利润,所以别直接当纯利看。收入涨得猛,说明企业客户还在持续买单,但正文没披露毛利率、研发和推理成本怎么分摊,也没说现金流有没有转正。
推荐理由:Anthropic 向《金融时报》预计本季实现调整后营业利润,收入约 30 亿美元、为去年同期三倍,这条消息给出了这家 AI 公司收入增长与盈利口径的现状。
Sam Altman、Elon Musk 和 Dario Amodei 罕见地联合发声,希望放慢 AI 发展速度,但特朗普直接拒绝了。报道只说了他拒绝,没提他拒绝的具体政策理由,也没说他有没有给出替代方案。
推荐理由:OpenAI、xAI 与 Anthropic 三家掌门人罕见联名呼吁放慢 AI 发展速度,特朗普直接拒绝,这条呈现了产业界与政治决策层在 AI 节奏问题上的正面分歧。
Vals AI 给 Claude Fable 5.1 一个开放任务,要求解出 Sir Thomas Urquhart 的 Cyphral Distich 密码,模型用 44 分钟、176k tokens 完成求解。
推荐理由:Vals AI 让 Claude Fable 5.1 解 370 年未破的 Cyphral Distich 密码,模型用 44 分钟、176k tokens 完成,关键线索落在原文 32 条 Proquiritations 上。