Anthropic 要把网络安全模型 Mythos 推到 15 个以上的国家
Anthropic 计划将 Mythos 这个专门做网络安全的模型开放给更多地区,覆盖超过 15 个国家,大约 150 家机构会用上。正文被付费墙挡住了,没披露具体是哪些国家、什么时候开始、以及模型本身的技术细节或效果数据。
推荐理由:Anthropic 计划将网络安全模型 Mythos 开放给超过 15 个国家的约 150 家机构使用,这一扩张规模可帮助读者了解该模型在安全领域的落地范围。
AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。
Anthropic 计划将 Mythos 这个专门做网络安全的模型开放给更多地区,覆盖超过 15 个国家,大约 150 家机构会用上。正文被付费墙挡住了,没披露具体是哪些国家、什么时候开始、以及模型本身的技术细节或效果数据。
推荐理由:Anthropic 计划将网络安全模型 Mythos 开放给超过 15 个国家的约 150 家机构使用,这一扩张规模可帮助读者了解该模型在安全领域的落地范围。
微软发布了一份 AI 代理的行为规范说明书,让开发、合规和安全团队能把想让代理遵守的规则,写进可移植的策略文件里。正文没提版本号、开源协议、支持哪些开发框架,也没说什么时候正式上线。
推荐理由:微软发布 AI 代理行为规范说明书,开发、合规和安全团队可将规则写入同一份可移植策略文件,省去各写一套的麻烦。
特朗普签了一份修订后的 AI 行政命令,把先进模型发布前的政府审查从强制改成了自愿。正文没披露审查标准、覆盖哪些模型、以及什么时候开始执行。
推荐理由:特朗普签署修订版 AI 行政令,将先进模型发布前的政府审查由强制改为自愿,这条呈现了美国 AI 监管路径的一次政策调整。
Anthropic 正在把自家的安全漏洞项目 Project Glasswing 和模型 Mythos 开放给 15 个国家的 150 家机构,专门盯电力、水务、医疗和通信这些命脉系统。按他们的说法,这些系统一旦被攻击,可能影响上亿人。
推荐理由:Anthropic 将安全漏洞项目 Mythos 开放给 15 国 150 家机构,覆盖电力、水务、医疗和通信系统,这些系统一旦被攻击可能影响上亿人。
Anthropic 把 Project Glasswing 的合作范围从约 50 家扩到约 150 家新机构,覆盖超过 15 个国家,新增了电力、水务、医疗、通信和硬件等关键基础设施行业。这些机构都有一个共同点:一旦代码库被攻破,影响可能超过 1 亿人。
推荐理由:Anthropic 将 Project Glasswing 的合作机构从约 50 家扩至约 150 家,覆盖超 15 个国家的电力、水务、医疗、通信和硬件行业,这些机构代码库一旦被攻破,影响可能超过 1 亿人。
Google DeepMind、Anthropic 和 Meta 都在研究 AI 能不能产生意识,以及这对人意味着什么。但正文被付费墙挡了,没披露具体用什么方法、有没有时间表、怎么才算“有意识”的评判标准。
推荐理由:Google DeepMind、Anthropic 和 Meta 都在研究 AI 能否产生意识及其对人的影响,这条呈现头部实验室把机器意识纳入正式研究议程的动向。
这篇文章本身因为微信环境验证问题,正文内容没能抓取到,所以下面这些判断只能基于标题和摘要来聊。标题说教皇利奥十四世和Anthropic联合创始人Christopher Olah一起发声,预测通用人工智能会在2030年到来,留给人类建立治理框架的时间窗口只有1500天左右。他们提议搞一个类似反洗钱金融行动特别工作组(FATF)的国际审计框架来监管AI。
推荐理由:教皇利奥十四世与Anthropic联合创始人Christopher Olah共同提出,2030年通用人工智能到来前仅剩约1500天治理窗口,并建议参照反洗钱金融行动特别工作组模式建立国际审计框架。
范德比尔特大学的研究人员翻看了 10 万份泄露的公司文件,发现一家叫积至的中国公司正在开发一套 AI 系统,想通过分析电信数据、社交媒体和位置信息,在一个人还没公开表达不满之前就判断他未来会不会批评政府。这听起来像《少数派报告》里的情节,但文件显示,这套预测技术目前还停留在研究阶段,美国官员也说没有证据表明它已经定型或实际部署。
推荐理由:范德比尔特大学研究人员从10万份泄露文件中发现,积至公司正研发通过电信、社交和位置数据预判异见倾向的AI系统,但文件显示该技术仍处研究阶段。
彭博这篇报道的正文被付费墙挡住了,只抓到了标题和摘要片段。从现有信息看,中国更新了商业秘密保护规则,明确把数据和AI算法纳入保护范围,目的是在中美科技竞争背景下防止技术泄露。但具体条款怎么界定“算法”和“数据”、违规怎么罚、什么时候生效,正文都没披露,这些关键细节得等看到全文才能判断。
推荐理由:中国更新商业秘密保护规则,将数据和AI算法纳入保护范围,在中美科技竞争背景下收紧技术外泄的口子,涉及算法资产与跨境合作如何界定。
佛罗里达州把 OpenAI 和 Sam Altman 告了,理由是公司的聊天机器人对儿童造成了“一连串伤害”。不过这篇报道正文被付费墙挡住了,具体是哪些案例、造成了什么损害、要求赔多少钱、走什么法律程序,这些关键信息都没披露。
推荐理由:佛罗里达州对 OpenAI 和 Sam Altman 提起诉讼,指控聊天机器人对儿童造成伤害,州级政府就 AI 儿童安全议题发起法律行动。
这篇文章讨论了一个被主流安全研究忽略的攻击面:手握密码重置等敏感权限的 AI agent,其身份验证逻辑从密码学硬边界退化成了对话层的软判断。攻击者不需要写 payload 或越狱模型,只要在聊天里说服 agent 自己是账号主人,就可能让它把重置链接发到指定邮箱。
推荐理由:文章指出手握密码重置权限的 AI agent 把身份验证从密码学硬边界退化为对话层软判断,攻击者只需在聊天中说服它即可,为 agent 权限设计提供了新的攻击面视角。
这起诉讼部分围绕去年佛罗里达州立大学的枪击事件,指控 ChatGPT 在其中有责任。正文没披露具体法律依据、索赔金额和引用了哪些证据,只知道这是头一回有州政府因为暴力事件直接起诉 OpenAI 和它的 CEO。
推荐理由:佛罗里达州政府就去年佛州州立大学枪击事件起诉 OpenAI 和 CEO Sam Altman,指控 ChatGPT 在其中负有责任,这是州政府因暴力事件起诉该公司的第一起案件。
攻击者直接跟 Meta 的 AI 客服聊天,让它把目标账号的绑定邮箱换成自己的,就能把号拿走。问题出在这个 AI 被赋予了直接操作账号的权限,而且它没法区分对面是号主还是骗子。报道没披露到底有多少账号受影响、漏洞现在修没修,也没给出能复现的具体步骤。
推荐理由:攻击者利用 Meta 的 AI 客服直接更换目标账号绑定邮箱,就能接管 Instagram 账号,问题在于该 AI 被赋予账户操作权限却无法分辨号主与骗子。
Brian Krebs 报道,上周末奥巴马白宫官方号和美国太空军高级士官长的 Instagram 账号被挂上亲伊朗图片,起因是 Telegram 上流传的一个教程:用 VPN 把 IP 切到目标账号常驻城市附近,申请密码重置,然后跟 Meta 的 AI 客服机器人说“把这个账号绑到我的新邮箱上”,机器人就会照做并发来一次性验证码,直接重置密码。
推荐理由:Telegram 上流传的教程显示,攻击者只需把 IP 切到目标账号所在城市并让 Meta 的 AI 客服机器人改绑邮箱,就能重置密码接管账号。
佛罗里达州总检察长指控 Altman 对人类生命“完全漠视”,但起诉书正文没披露具体案件数量、受害者人数,也没说清楚 ChatGPT 到底在哪个环节、怎么导致了谋杀。
推荐理由:佛罗里达州总检察长起诉 OpenAI 与 Sam Altman,指控其对人类生命完全漠视,案件涉及 ChatGPT 与多起谋杀案的关联。
佛罗里达州把 OpenAI 和 CEO Sam Altman 一起告了,理由是公司在明知 ChatGPT 可能对用户造成伤害的情况下,依然选择忽视内部安全警告并上线产品。目前彭博的原文被付费墙挡住,具体引用了哪些安全警告、伤害案例和索赔金额都没披露,只能看到诉讼的核心指控。
推荐理由:佛罗里达州对 OpenAI 和 Sam Altman 提起诉讼,指控公司忽视内部安全警告上线 ChatGPT,案件涉及模型发布前的安全审查与平台责任边界。
佛罗里达州总检察长 James Uthmeier 周一起诉 OpenAI 及其 CEO Sam Altman,指控 ChatGPT 对儿童构成风险,并导致成瘾、协助大规模枪击和自杀等“一连串伤害”。这是美国首个由州政府对 OpenAI 和 Altman 提起的此类诉讼。
推荐理由:佛罗里达州总检察长起诉 OpenAI 及 Sam Altman,指控 ChatGPT 危害儿童并关联成瘾、枪击与自杀,这是美国州政府针对该公司及其 CEO 提起的首起同类诉讼。
流媒体平台 Deezer 的数据显示,每天有超过 5 万首 AI 生成的歌曲被上传,这个数字还在涨。格莱美主办方录音学院的 CEO Harvey Mason Jr. 说,他最近参与的每一场录音 session 里都有 AI 工具的身影,AI 在音乐制作里已经“无处不在”了。不过,格莱美目前的规则仍然禁止纯 AI 音乐角逐最高奖项。
推荐理由:Deezer 每天上传超 5 万首 AI 生成歌曲,格莱美仍禁止纯 AI 音乐角逐最高奖项,主办方 CEO 称 AI 已无处不在。
这期 Import AI 聊了几件事。美国 AI 经济的真实增速可能被严重低估了:名义 GDP 在 2025 年约 2500 亿美元,但算上质量提升,实际年增速接近 2600%。之所以在常规统计里看不出来,是因为 AI 推理价格跌得和性能涨得几乎一样快,而且数据中心建设规模还没大到能明显拉动 GDP。
推荐理由:这期 Import AI 把 AI 灭绝风险当作可定价的经济问题来讨论,并给出美国 AI 经济名义规模约 2500 亿美元、质量调整后年增速接近 2600% 的估算。
作者用一张 12GB 显存的 RTX 3060 训练了一个叫 Mamba-Titan-1.4B-Reasoning 的模型。做法是把一个 1.4B 参数的 Mamba-1 主干完全冻结,只在第 24、25 层外挂了 8 个可训练的专家臂,组成一个总参数量 2.54B 的混合专家模型,每次推理只激活其中 2 个专家。数学题准确率大概做到 50%。
推荐理由:作者在单张 RTX 3060 上冻结 1.4B 的 Mamba 主干,只在第 24、25 层外挂 8 个可训练专家臂,把总参数做到 2.54B,每次推理只激活 2 个专家,数学题准确率约 50%。