Waymo 召回 3800 辆无人出租车,因为软件 bug 会让车开进积水里
Waymo 主动召回了约 3800 辆自动驾驶出租车。原因是软件里有个漏洞,导致部分车辆在识别路况时,会直接开进路面积水区域。报道里没有说清楚到底发生了多少起涉水事故、具体是哪个软件版本出的问题,也没提修复方案是远程更新还是需要回厂处理。
推荐理由:Waymo 因软件漏洞召回约 3800 辆自动驾驶出租车,该漏洞会让车辆在识别路况时直接驶入路面积水区域。
AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。
Waymo 主动召回了约 3800 辆自动驾驶出租车。原因是软件里有个漏洞,导致部分车辆在识别路况时,会直接开进路面积水区域。报道里没有说清楚到底发生了多少起涉水事故、具体是哪个软件版本出的问题,也没提修复方案是远程更新还是需要回厂处理。
推荐理由:Waymo 因软件漏洞召回约 3800 辆自动驾驶出租车,该漏洞会让车辆在识别路况时直接驶入路面积水区域。
杨立昆在 Unsupervised Learning 播客里把大语言模型的底牌翻了个遍。他直接说 LLM 这条路有天花板,劝博士生别再往里扎。他预测到 2027 年,纯靠堆语言数据做不出真正的智能。他离开 Meta 后创立的 AMI 公司,核心押注在“世界模型”上——让 AI 像人一样通过观察和互动去理解物理世界,而不是只读文本。
推荐理由:杨立昆在播客中判断大语言模型路线存在天花板,并说明离开 Meta 后押注世界模型,为理解 AI 路线分歧提供了关键人物的直接表述。
谷歌在 5 月 15 日更新了搜索反垃圾政策,明确把“操纵 AI 生成式搜索结果”算作垃圾行为。具体来说,如果有人故意影响 AI Overview 或 AI Mode 里生成的内容,网站可能被降权甚至拉黑。政策里点名了两类典型操作:一是带偏见的“最佳推荐”榜单,二是往推荐内容里下毒。不过正文没披露具体怎么识别、怎么处罚的细节,这点先别太激动。
推荐理由:谷歌更新搜索反垃圾政策,将故意影响 AI Overview 和 AI Mode 生成内容列为垃圾行为,并点名带偏见的推荐榜单与推荐内容投毒两类操作。
英国财政部、央行和金融行为监管局联合发声明,说现在最先进的 AI 模型搞网络攻击比普通专业人员快得多、范围更大、成本还更低。央行行长贝利上个月点名了 Anthropic 的 Mythos 产品,认为它已经带来明显的网络安全风险。不过正文没披露他们是怎么测试的,也没给出具体的量化指标,所以“远超”到底远多少,这点先别太激动。
推荐理由:英国财政部、央行和金融行为监管局联合警告,称最先进 AI 模型的网络攻击能力在速度、范围和成本上已超过普通专业人员,央行行长贝利还点名了 Anthropic 的 Mythos 产品。
亚马逊内部要求超过 80% 的开发者每周必须用 AI 工具,还搞了个 token 消耗排行榜。员工为了达标,直接用内部 MeshClaw agent 刷量。目前这些统计数据只有员工本人和直属上级能看到,正文没披露具体刷了多少、有没有处罚措施。
推荐理由:亚马逊要求超八成开发者每周使用 AI 工具并设 token 消耗排行榜,员工用内部 MeshClaw agent 刷量达标,这条讲的是大厂把 AI 用量做成考核指标后员工怎么应付。
MemTensor 和荣耀开源了一套叫 MemPrivacy 的隐私方案,专门保护边端和云端 agent 的记忆数据。做法是在本地把敏感信息换成可逆的化名,模型看到的是假名,但需要时还能还原。
推荐理由:MemTensor 与荣耀开源 MemPrivacy,在本地把 agent 记忆中的敏感信息替换为可逆化名,模型只见到假名、需要时再还原,为端云两侧的记忆隐私提供了一条可迁移的工程思路。
Anthropic 发了个叫 NLA(自然语言自编码器)的新研究,能把 Claude 模型内部的激活向量直接转成自然语言。在 Opus 4.6 上,NLA 对激活模式的解释方差能到 60% 到 80%,也就是能说清楚模型当时在想什么的比例。
推荐理由:Anthropic 发布 NLA 研究,把 Claude 内部激活向量直接转成自然语言,在 Opus 4.6 上对激活模式的解释方差达 60% 到 80%,为理解模型内部状态提供了一种可量化的路径。
Anthropic 正在和美国政府打官司,焦点是联邦机构会不会禁用它的 AI 模型。这事已经不只是法律纠纷了——Figma 和其他一些公司开始在财务文件里把这场争端列为一个风险因素,担心如果政府真的下手,自家用 Anthropic 模型做的功能会受影响。正文没披露具体有多少家公司踩了这坑,也没说 Anthropic 的应对策略是什么。
推荐理由:Anthropic 与美国政府的争端已进入 Figma 等公司的财务风险披露,这条呈现了 AI 模型供应商的政策风险如何传导到下游企业的财务文件。
作者搭了一套全自动的红队演练循环:先训练一个攻击模型,用强化学习(GRPO)对着 Qwen3.5 不断尝试越狱,成功诱导出有害回答就给奖励。第一轮攻击很快塌缩成同一种“写小说”套路,翻来覆去就一招。后来他们把攻击按底层策略聚类,奖励除以该策略的使用次数,逼攻击模型去挖新花样,这才炸出 7 类不同的越狱手法,其中虚构创作类占比最高,达 34%。
推荐理由:作者用强化学习训练攻击模型对 Qwen3.5 自动越狱,并按策略聚类惩罚重复手法,逼出 7 类不同攻击方式,其中虚构创作类占 34%。
Anthropic 出了一份政策分析,推演了 2028 年全球 AI 领导权的两种走向。核心就一个变量:美国及其盟友能不能守住算力芯片这个优势。现在美国靠出口管制卡住了中国获取最先进训练芯片的渠道,但中国实验室靠人才、钻管制漏洞和大规模“蒸馏攻击”(说白了就是扒美国模型的能力来训练自己的模型)追得很紧。
推荐理由:Anthropic 以算力芯片管制为单一变量,推演美国及其盟友能否守住优势所导向的 2028 年两种走向,并点出中国实验室靠人才与蒸馏攻击缩小差距的路径。
南加州联邦法院受理了一起集体诉讼,原告指控 OpenAI 在 ChatGPT 网页里嵌了 Facebook Pixel 这类追踪代码。你输入问题时,问题的主题会变成浏览器标题,连同你浏览器里存着的 Facebook 唯一 ID,一起实时发给 Meta。OpenAI 的说法是只分享“有限标识符”用来投广告,但原告认为问题主题本身就是高度敏感的个人信息。
推荐理由:原告指控 ChatGPT 网页的追踪代码把用户提问主题和 Facebook ID 实时发给 Meta,案件已由南加州联邦法院受理,争议焦点在于问题主题是否属于敏感个人信息。
MIT Technology Review 这篇报道讲的是成人内容创作者的身体被拿去喂 AI 做深度伪造色情片的问题。主角 Jennifer 在 2023 年用人脸识别搜自己以前的职业照,结果发现一段她 2013 年左右拍的旧视频被人换了脸——她的身体还在,脸是别人的。她说那种感觉就像自己戴着别人的脸当面具。
推荐理由:MIT Technology Review 记录成人内容创作者 Jennifer 发现旧视频被换脸后身体仍在、脸已易主,把非自愿合成色情落到具体个人的经历上。
Alexandr Wang 在访谈里回应了几个近期争议。关于 LeCun 对 Scale AI 的批评,他直接说对方“没搞清楚我们在做什么”。谈到 Manus 时,他评价产品体验不错,但技术上没有看到根本性突破。他还确认 Meta 在过去九个月里把预训练、强化学习和数据处理三套系统全部重写了一遍,这个速度在业内算很快。
推荐理由:Alexandr Wang 在访谈中回应 LeCun 与 Manus 的争议,并确认 Meta 用九个月重写了预训练、强化学习和数据处理三套系统。
MIT Technology Review 记录了三起 Gemini 把真人手机号当成客服电话给出去的案例。一位以色列软件工程师收到陌生人 WhatsApp 消息,对方说是 Gemini 给的 PayBox 客服号——但他跟这家公司毫无关系。
推荐理由:MIT Technology Review 记录了三起 Gemini 把真人手机号当作客服电话给出的案例,其中一位以色列软件工程师因此收到陌生人的 WhatsApp 消息。
Meta 首席 AI 官宣布 WhatsApp 和 Meta AI 上线 Incognito Chat。和 ChatGPT 那种只不存历史记录的临时聊天不一样,这次对话推理完全在手机硬件安全飞地内完成,Meta 工程师拿不到明文,也不产生服务器日志,会话结束后数据永久删除。
推荐理由:Meta 在 WhatsApp 上线 Incognito Chat,对话推理在手机安全飞地内完成,服务器不留日志、会话结束即删除,与只清历史记录的临时聊天形成对照。
Meta 老板扎克伯格亲自发帖,给 Meta AI 加了一个“无痕聊天”模式。按他的说法,这种对话用上了端到端加密,聊完退出会话后消息就没了,服务器上不存对话记录。Meta 强调这跟其他聊天机器人不一样。不过,这篇报道没写这个功能什么时候上线、覆盖哪些地区,也没提 Meta 有没有找第三方来做安全审计,或者密钥到底是怎么管的。
推荐理由:扎克伯格为 Meta AI 加入端到端加密的无痕聊天模式,退出会话后消息不在服务器留存,Meta 称其有别于其他聊天机器人。
Meta 在 WhatsApp 里给 AI 聊天加了个隐身模式。开了之后,你和 AI 的对话不会被保存,关掉聊天窗口消息就自动消失。正文没提这个模式是默认开启还是需要手动打开,也没说端到端加密的情况。
推荐理由:Meta 在 WhatsApp 的 AI 聊天中加入隐身模式,开启后对话不保存、关闭窗口即消失,这条消息让读者了解主流通讯应用在 AI 对话留存上的处理方式。
Codex 是 OpenAI 的编程助手,能在开发者电脑上直接跑命令。Windows 版之前没有沙箱,用户要么得每条命令都点同意,要么就得开“完全访问”把安全交给运气。OpenAI 工程师 David Wiesen 写了篇文章讲他们怎么从零给 Windows 造沙箱。
推荐理由:OpenAI 工程师撰文说明 Windows 版 Codex 此前缺少沙箱,用户只能在逐条确认命令与开放完全访问之间取舍,文章讲述他们如何从零构建沙箱。
上个月在新加坡一场非官方对话中,一家中国智库要求Anthropic向北京开放其最新的Mythos模型,被直接拒绝。Mythos是个擅长找软件漏洞的模型,Anthropic目前只给美国政府和40多家机构用,理由是怕引发网络安全危机。美方官员认为这次接触虽非正式外交,但背后大概率有中国政府授意,并把它看作中美AI竞赛升温的又一个迹象。
推荐理由:一家中国智库在新加坡非正式对话中要求Anthropic开放其漏洞挖掘模型Mythos,被直接拒绝,该模型目前仅限美国政府和40多家机构使用。
OpenAI 确认,5 月 11 日发生的 TanStack npm 供应链攻击(代号 Mini Shai-Hulud)波及了公司内部两台员工设备,攻击者从这两台设备能接触到的少量内部代码仓库中,成功窃取了部分凭证信息。OpenAI 表示没有发现用户数据、生产系统或核心知识产权被入侵,也没有证据显示窃取的凭证被实际滥用。
推荐理由:OpenAI 确认 TanStack npm 供应链攻击波及两台员工设备并泄露部分凭证,同时要求 macOS 用户在 6 月 12 日前更新应用。