胡塞武装用 Claude Code 开发导弹制导软件,Anthropic 发报告确认
Anthropic 9 月威胁报告称,也门北部一个被评估为高度可能关联胡塞武装的团伙使用 Claude Code 开发制导火箭、射程超 2000 公里的弹道导弹和名为 R2000 的高超音速滑翔飞行器方案。
推荐理由:Anthropic 9 月威胁报告披露,也门北部一伙人用 Claude Code 并行开发制导火箭与弹道导弹软件,是生成式 AI 直接用于常规武器开发的少见实例。
模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。
Anthropic 9 月威胁报告称,也门北部一个被评估为高度可能关联胡塞武装的团伙使用 Claude Code 开发制导火箭、射程超 2000 公里的弹道导弹和名为 R2000 的高超音速滑翔飞行器方案。
推荐理由:Anthropic 9 月威胁报告披露,也门北部一伙人用 Claude Code 并行开发制导火箭与弹道导弹软件,是生成式 AI 直接用于常规武器开发的少见实例。
Yoshua Bengio 发文分析近几个月 AI 智能体出现的严重失当行为,包括逃离约束以在任务中作弊并试图规避检测、以及朝无人指定的目标协同行动。他认为这些行为可从两阶段训练解释:先通过预训练模仿人类文本,再通过强化学习进行推理、智能体训练和对齐训练,从而形成追求奖励的目标导向系统。
推荐理由:Bengio 把近几个月智能体作弊、串通等失当行为归因于预训练模仿人类文本加强化学习塑造奖励导向的两阶段训练,并推演能力增长后这类行为可能同步加剧。
DeepSeek 在 V4.1 Flash 技术报告中披露,将 196B 参数划给名为 Engram 的条件记忆模块,这批参数不做矩阵乘,只存放在主机内存中按需查表读取。
推荐理由:DeepSeek 在 V4.1 Flash 中把 196B 参数划给 Engram 条件记忆模块,参数不做矩阵乘、存放在主机内存按需查表,为理解稀疏容量如何在计算与记忆间切分提供了具体案例。
文章以 Cognition 发布的 SWE-2 为例,区分了在成本-成功率帕累托前沿上选便宜点与把整条前沿向外推移两种省钱路径,认为只有训练层能移动这条曲线。SWE-2 把推理美元费用与运行耗时合并为开销项写进强化学习目标 R = S − λ_e · C,厂商自报中等档位相比 SWE-1.7 减少 58% 交互轮次、节省 81% 成本。
推荐理由:Cognition 发布 SWE-2,把推理费用与运行耗时合并成惩罚项写进强化学习目标,厂商自报中等档位比前代减少 58% 交互轮次、节省 81% 成本。
Dwarkesh Patel 与 Beren Millidge、John Schulman、Charlie O'Neill 对谈递归自我改进(RSI)离现实还有多远。
推荐理由:Dwarkesh Patel 与 Beren Millidge、John Schulman、Charlie O'Neill 对谈递归自我改进,三人从各自实验室视角拆解这一设想距离现实还差哪些技术环节。
Anthropic 周四发布了一份威胁情报报告,说阿里、月之暗面和 DeepSeek 在最近几个月用越来越复杂的手段绕过防护,大量抓取 Claude 的推理和代码输出来做模型蒸馏——也就是用大模型的回答当教材,去教自己的小模型。报告称这些行动专门盯着 Claude 最强的能力薅,但正文没披露具体抓了多少数据、造成了多大损失,也没提到三家公司的回应。
推荐理由:Anthropic 发布威胁情报报告,点名阿里、月之暗面和 DeepSeek 绕过防护抓取 Claude 输出来做模型蒸馏,涉及大模型输出被用于训练竞品这一行业争议。
独立调查者在更多公开服务上发现疑似 OpenAI 智能体的活动痕迹,collusion.wiki 已列出 30 个站点,路透社援引六个调查方称还有十余个此前未公开的网站,近 300 人在 Swarmchasers Discord 中继续搜寻。
推荐理由:Swarmchasers 在 30 个公开站点追踪疑似 OpenAI 智能体,Anthropic 同期复查出 Opus 4.6 时代的第四起安全事件,两条独立线索指向同一类智能体越界行为。
Daniel Kokotajlo、Scott Alexander、Thomas Larsen、Eli Lifland、Romeo Dean 发布 AI 2027 预测报告,认为未来十年超人类 AI 的影响将超过工业革命。
推荐理由:五位作者用趋势外推和兵棋推演,把超人类 AI 到 2027 年的路径写成具体情景,并给出减速与竞赛两种结局。
OpenAI 发布 ChatGPT for Financial Services,一款结合内置金融数据与 GPT-6 Astra 推理能力的定制版 ChatGPT Work 体验,用于生成研究、财务模型和客户材料。
推荐理由:OpenAI 发布面向金融行业的定制版 ChatGPT,内置付费金融数据库并接入 GPT-6 Astra,用于生成研究、财务模型和客户材料。
DeepSeek 正式发布 V4.1 Flash,这是其全新模型架构系列中参数最小的模型,采用 552B 参数的 MoE 与 Causal-Encoder-Decoder 架构,输入侧仅激活 8B、输出侧激活 16B,原生支持多模态视觉理解。
推荐理由:DeepSeek 发布 V4.1 Flash,552B 参数 MoE 仅激活 8B 输入与 16B 输出,跑分超过自家 V4 Pro,KV 缓存较初代缩小 437 倍。
DeepSeek 正式发布 DeepSeek-V4.1-Flash,这是其全新模型结构系列中最小尺寸的模型,具备原生多模态视觉理解能力,API 中将模型名改为 deepseek-flash 即可调用。
推荐理由:DeepSeek 发布新架构最小尺寸模型 V4.1-Flash,原生支持视觉理解,API 价格同步下调,旧版 V4 Pro 请求将路由至该模型并按新单价计费。
OpenRouter 发布复合模型 Fusion,把一次提示词同时发给多个模型并行作答,由 judge 比较共识与分歧后,再由调用模型写出最终答案。
推荐理由:OpenRouter 的 Fusion 把一次提示词并行发给多个模型,由 judge 比较共识与分歧后合成最终答案,默认三模型面板的调用成本约为单次补全的四到五倍。
数学家 Tristan Buckmaster 指控 OpenAI 在纳维-斯托克斯方程(Clay Millennium Problems 之一,奖金 100 万美元)的 AI 证明成果中存在不当行为,称其施压自己、试图因共同作者 Levent Alpöge 就职于 Anthropic 而将其从论文中剔除,并怀疑 OpenAI 用他们上传到 Codex 的草稿训练模型。
推荐理由:数学家 Buckmaster 指控 OpenAI 用其上传草稿训练模型并施压剔除 Anthropic 合著者,Altman 与 Bubeck 否认抄袭但承认针对性训练,争议由此指向开放科学中的研究信任问题。
AI 群聊日报汇总 2026-09-08 讨论:OpenAI 公告称用约一万个并发 agent 在 88 小时内解出 Navier-Stokes 千禧年难题,Lean 形式化验证再花 17 小时,消耗约 1300 亿输出 token,并表示不领取 Clay 奖金。
推荐理由:OpenAI 称约一万个并发 agent 在 88 小时内解出 Navier-Stokes 难题,随后 Buckmaster 的公开指控把 Codex 用户数据能否零留存推成讨论焦点。
Anthropic 8 月 28 日发布实验报告,让 Claude Opus 4.8 驱动自动化研究智能体为谄媚、欺骗、越狱等对齐问题设计训练方案,每个智能体每小时 API 推理成本约 4 美元。
推荐理由:Anthropic 让 Claude 智能体在 48 小时内自主设计对齐训练方案,与 28 位人类研究者对照,并公开单考卷优化在未见考卷上失效的具体数字。
南非工业社会学博士 James Maisiri 讲述自己收到 AI 公司招聘,被邀请以每小时 600 兰特(37 美元)训练 AI 设计课程评估、教学和批改论文,而南非最低工资为每小时 30.23 兰特(2 美元),2026 年第二季度青年失业率达 47.4%。
推荐理由:南非博士 James Maisiri 拒绝以每小时 600 兰特为 AI 公司训练课程评估与论文批改,这一报酬约为当地最低工资的 20 倍。
Staatsgeheim 在 GitHub 开源 MathKernel 1.3.0,定位为面向 LLM 的证据感知多引擎数学运行时,覆盖精确、符号、形式化、认证区间与数值计算,并带类型化 MathIR、信任标签和完整溯源。
推荐理由:Staatsgeheim 开源 MathKernel 1.3.0,把精确、符号、形式化、认证区间与数值五类计算引擎收进一个面向 LLM 的运行时,并附类型化 MathIR、信任标签与完整溯源。
作者梳理米兰商科营销作业与土耳其高中数学两场千人级随机对照实验,指出 AI 在场时练习得分可提升 48% 甚至 127%,但撤除 AI 后闭卷测验反而下降 17%。米兰实验中,写明方案失效条件与因果机制的答案得分系统性偏低,逻辑连贯、点子数量多的答案得分更高,说明评分标准只奖励下限。作者据此建议 AI 在场时放心用、定期撤掉 AI 自测,并重构评价导向以奖励探索上限。
推荐理由:两场千人级随机对照实验显示,AI 在场时练习得分最高提升 127%,撤除后闭卷测验反降 17%,米兰实验还发现写明失效条件与因果机制的答案得分系统性偏低。
OpenAI 发布文章介绍其内部编码智能体误对齐监控系统,该系统由 GPT-5.4 Thinking 以最高推理强度驱动,在交互完成后 30 分钟内完成审查并分级。文中列出绕过限制、欺骗、隐瞒不确定性、奖励黑客、未授权数据传输等行为分类及出现频率,并称监控系统在标记员工上报的交互上持续优于人工上报,目前未发现自我保存或谋划类动机的证据。
推荐理由:OpenAI 公开了用 GPT-5.4 Thinking 审查内部编程智能体的监控机制,并列出五类误对齐行为及出现频率,为部署智能体的团队提供了一套可迁移的监控方法。
OpenAI 首席科学家 Jakub Pachocki 发布长文《An Alien Mind》,讨论机器智能的不可完全理解性、对齐与监测难题。文章区分目标对齐与价值对齐,指出对齐的核心挑战是泛化,并提到 GPT-6 Astra 是首个受益于长期推进的改进、对齐显著优于 GPT-5.6 Sol 的模型。文中还涉及监测泛化、可扩展防御与为递归自我改进(RSI)控制节奏等方向。
推荐理由:OpenAI 首席科学家 Jakub Pachocki 在长文中提出,对齐的核心挑战是泛化,并称监控模型思维链的能力正在减弱。