Cogent 与 OpenAI 为企业打造网络防御工厂
Cogent Security 与 OpenAI 合作构建 Cyber Defense Factories,用 AI 智能体自动完成漏洞调查到验证修复的全流程。
Cogent Security 与 OpenAI 合作构建 Cyber Defense Factories,用 AI 智能体自动完成漏洞调查到验证修复的全流程。
Anthropic 在一项小型实验中,让运行早期 Claude Fable 5.2 的 1,000 个智能体用 28.7 小时复现费马大定理的形式化证明。团队未使用 Prove2Me 或研究人员指导,但获得了 60 个待证命题、简短路线提示、相关定义及此前已证明的 47 个引理,通过 Git 和共享数据库自行协调,输出 token 用量为原工作的三分之一,证明长度为七分之一。
推荐理由:Anthropic 让千个智能体通过共享数据库与 Git 自行拆分和协调任务,将大规模协作限制在隔离沙箱与双层监控之内。
OpenAI 宣布与安全公司 Hacktron 合作,双方工程师与安全研究员将共同选定高优先级领域进行测试,重点检查 OpenAI 系统与第三方服务的交互方式。
OpenAI 的 Daybreak Red 已在 AWS GovCloud (US-East) 上线,经批准的客户可通过 Amazon Bedrock 使用 GPT-5.6 Cyber 网络安全模型。
OpenAI 计划开展下一轮内部安全冲刺,联合新加入的研究人员与安全合作伙伴 Cathedral Systems,用自家模型测试并加固系统。安全漏洞赏金计划对关键发现的奖励提升逾四倍,上一轮冲刺中 25% 的产品工程师借助 Codex 调查发现、复现漏洞并准备补丁。OpenAI 还承诺在六个月内为保护关键服务与数字基础设施的一线防御者提供 10 亿美元的补贴访问额度。
CodeRabbit 将 GPT-6.1 Sol 作为其安全智能体的主模型,把代码审查从单次改动扩展到跨文件、依赖与组件的风险关联分析。CodeRabbit 称已用该模型在数千个代码库和组织中标记安全问题,并通过 CodeRabbit Secure 在隔离沙箱中验证漏洞、为部分问题起草修复 PR 供人工审核。
Cloudflare 通过 OpenAI Daybreak 接入 OpenAI 模型,在早期访问服务 Vulnerability Discovery and Remediation 中结合实时流量与安全信号调查漏洞,并生成待客户审核的补丁和 WAF 规则。
OpenAI 发布《赋能网络防御者》蓝图,提出政府与产业应在三大领域采取行动:强化前沿模型与智能体的安全责任、危险行为检测和可靠关停控制;为防御者提供先进工具与培训并改造老旧系统;强化政府评估与独立技术评估、统一事件报告要求。OpenAI 称当前处于"防御者窗口",需在高级网络攻击能力普及前把先进 AI 交到防御方手中。
Anthropic 发布 2026 使用政策更新,将于 11 月 12 日生效,多数修改旨在澄清现有规则。更新整合欺骗活动禁令,取消对个性化投票及竞选定向活动的全面禁止,同时保留对欺骗、侵犯隐私和破坏选举行为的限制,并明确武器软件、监控与执法用途的禁令。
推荐理由:Anthropic 为 Claude 自主操作硬件增加人工停机与断连安全要求,将高风险使用的责任边界延伸到可能造成伤害的物理行动。
Google DeepMind 发布新一代前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展至开发者、企业和消费者。
推荐理由:Gemini 4 Argon 先向受信任的网络安全防御方开放,并公布每百万输入 token 2 美元、输出 10 美元的定价,以及从 64K 提升到 1M 的输出上限。
OpenAI 称近期发现并阻断了一起协同蒸馏攻击,最早活动出现在 7 月第一周,攻击者试图提取模型的受保护推理内容。7 月 24 日和 25 日出现高流量峰值,涉及 4,000 多名用户的 16,000 次请求,相关提示模式活动涉及超过 15,000 名用户,OpenAI 于 7 月 28 日前完全阻断。
推荐理由:OpenAI 披露一起协同蒸馏攻击的时间线与处置过程,攻击者通过复制加密推理内容诱导模型转写,试图提取受保护推理。
Google DeepMind 发布 SynthID Bio,把水印技术用于合成生物学,在生物代码中嵌入不可感知的签名,并可在合成出的实体蛋白质上验证,同时保持其生物功能。
推荐理由:Google DeepMind 推出 SynthID Bio,把水印嵌入 AI 生成的蛋白质序列与三维结构,并在实验室合成出的实体蛋白上验证,同时保持其结合功能。
Google DeepMind 公布 Private AI Compute 的新技术能力,将私密的服务端持久记忆引入该平台,使 AI 助手能跨设备保留上下文。数据密封在加密存储中,解锁密钥仅保存在用户设备上,模型访问时通过端到端加密通道进入云端安全隔区,在隔离内存中临时解密并即时重新加密。
推荐理由:Google DeepMind 为 Private AI Compute 加入服务端持久记忆,解锁密钥只留在用户设备,模型经加密通道在云端安全隔区临时解密,让云端助手具备跨设备连续上下文。
OpenAI 发布开放基准 MentalHealthBench,用于衡量 AI 在真实心理健康对话中的表现,由来自 22 个国家的 80 多名持证心理健康专家共同构建。
推荐理由:OpenAI 联合 80 多名持证心理健康专家构建开放评测集 MentalHealthBench,覆盖真实对话场景,为衡量模型在心理健康对话中的表现提供了专家标注的参照。
Google DeepMind 推出 Fairwind Program,面向政府机构、关键基础设施运营商和网络安全伙伴限量开放其最先进的网络防御能力。该计划将专用网络模型 Gemini 3.8 Flash Cyber 与 CodeMender harness 结合,可自主发现、验证并修复漏洞,把原本数周的手动修复压缩到数分钟内生成可部署补丁,且运行成本低于传统前沿模型。
推荐理由:Google DeepMind 推出 Fairwind 计划,向政府与关键基础设施运营商限量开放 Gemini 3.8 Flash Cyber 与 CodeMender 组合,把漏洞修复从数周手动压缩到数分钟生成可部署补丁。
Ai2 在 Hugging Face 博客发布 BenchMIRT,一种在单条提示词层面审计 LLM 基准的新方法,基于多维项目反应理论(MIRT)估计每道题难度及其区分能力。
推荐理由:Ai2 发布 BenchMIRT,用多维项目反应理论在单条提示词层面估计每道基准题的难度与区分能力,为判断基准究竟测什么提供了一套可迁移的审计方法。
Anthropic 发布 Enterprise Frontier Safeguards(EFS),把零数据留存(ZDR)的隐私性与检测滥用的安全监控结合,数据存放在客户自控的云基础设施而非 Anthropic。
推荐理由:Anthropic 推出 EFS,把数据存放在客户自控的云基础设施,并让客户自行审查监控信号,回应受监管行业在模型滥用检测与数据留存之间的取舍。
Google DeepMind 宣布推出全球首个针对专有前沿 AI 模型的双盲评测,将外部评测限制在加密环境中,避免模型提前接触测试题目。该试点与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境下用保密基准测试 Gemini Flash Lite 模型。Google 称此举针对基准污染问题,在零日志协议和合同保障之外增加了技术与加密层面的保护。
推荐理由:Google DeepMind 与新加坡 AI 安全研究所等机构合作,把外部评测放进加密环境,让模型在测试前接触不到保密基准题目,以应对基准污染问题。
OpenAI 在 8 月 7 日公布,内部测试发现即将推出的模型 Astra 在自主编程和网络安全上进步明显,昨晚他们判断已经不能排除模型达到自家安全框架里的“高危”级别。这个级别意味着模型能自己找漏洞、写攻击程序,在没人帮忙的情况下攻破现实中加固过的系统,或者只给一个大致目标就能策划并执行全新的端到端攻击。
推荐理由:OpenAI 公布内部测试结果,称未发布的 Astra 在自主编程和网络安全上进步明显,已无法排除其达到自家安全框架的高危级别。高危级别的具体能力描述为理解前沿模型风险提供了参照。
Google DeepMind 发布 Gemini 3.5 Flash Cyber,基于 3.5 Flash 微调,用于快速发现、验证和修补漏洞,在 CyberGym 等基准上以多次调用取得接近更大模型的成绩。
推荐理由:Google DeepMind 推出基于 3.5 Flash 微调的轻量网络安全模型,在 CyberGym 等基准上以多次调用取得接近更大模型的漏洞发现成绩。
Google DeepMind 发布 AI Control Roadmap,一套用于构建和管理 Google 内部部署的高级 AI 的框架,采用纵深防御思路,在模型对齐之外增加系统级安全层,即便对齐不完美也能提供保障。
推荐理由:Google DeepMind 公开内部 AI Control Roadmap,给出把智能体当作内部威胁来监控与拦截的分层思路。
微软 Build 大会上,两家宣布把 AI 部署的底层打通了。简单说,就是同一个 AI 应用,既能在你笔记本的 RTX 显卡上跑,也能无缝切到 Azure 云或者公司本地的 DGX 工作站上,不用重写代码。现场还亮了两款新硬件:RTX Spark 是个小盒子,能提供 1 petaflop 的 AI 算力(大概相当于每秒一千万亿次计算)。
推荐理由:英伟达与微软打通 AI 部署链路,同一应用可在 Windows 设备、Azure 云和本地 DGX 工作站间切换而无需重写代码,并公布 1 petaflop 算力的 RTX Spark 硬件。
Codex 是 OpenAI 的编程助手,能在开发者电脑上直接跑命令。Windows 版之前没有沙箱,用户要么得每条命令都点同意,要么就得开“完全访问”把安全交给运气。OpenAI 工程师 David Wiesen 写了篇文章讲他们怎么从零给 Windows 造沙箱。
推荐理由:OpenAI 工程师撰文说明 Windows 版 Codex 此前缺少沙箱,用户只能在逐条确认命令与开放完全访问之间取舍,文章讲述他们如何从零构建沙箱。
许晓斌在内部访谈里给了几个数:工程师重度用 AI 后,写代码占工作时间从 30% 掉到 5%,跟 Agent 对话的时间从 5% 涨到 60%,端到端交付效率提升 2 到 3 倍,纯编码效率提升 10 倍。这些数字来自内部访谈,不是大规模统计,样本量和统计口径正文没披露,所以我会先打个折看。
推荐理由:阿里许晓斌在内部访谈中给出工程师用 AI 后的时间分配变化,写代码占比从 30% 降至 5%、与 Agent 对话升至 60%,并提到端到端交付效率提升 2 到 3 倍。
OpenAI 把“可信网络访问”机制扩展到了 GPT-5.5 和 GPT-5.5-Cyber 上。简单说,就是给经过身份验证的安全从业者开绿灯,让他们能用更强的模型做防御类工作,比如漏洞分析、恶意软件排查、写检测规则,同时继续拦截攻击性操作。GPT-5.5 加上这个权限后,对大多数防御任务就够用了。
推荐理由:OpenAI 将可信网络访问机制扩展到 GPT-5.5 和 GPT-5.5-Cyber,经身份验证的安全从业者可调用更强模型做漏洞分析与恶意软件排查,同时攻击性操作仍被拦截。
OpenAI 给 ChatGPT 加了一个可选的安全功能。成年人可以在设置里指定一位信任的联系人,比如家人或朋友。当系统自动监测和人工审核都判定你的对话里出现了严重的自我伤害倾向时,ChatGPT 会通知这位联系人。通知内容很克制,只说出现了需要关心的自伤话题,不会透露聊天细节。正文没披露具体的检测机制和误报率,只说审核团队会争取在一小时内完成判断。
推荐理由:OpenAI 为 ChatGPT 加入可选功能,成年人可指定信任联系人,在系统与人工均判定出现严重自伤倾向时收到通知,且不透露聊天细节。
OpenAI 把免费用户和默认聊天用的模型升级到了 GPT-5.5 Instant。官方说这次更新主要干了三件事:回答更靠谱、更简洁,并且更能利用你之前聊过的上下文来贴合你的偏好。内部测试里,在医疗、法律、金融这类高风险问题上,GPT-5.5 Instant 比上一代 GPT-5.3 Instant 的幻觉内容少了 52.5%。
推荐理由:OpenAI 将 ChatGPT 默认模型升级为 GPT-5.5 Instant,官方称其在医疗、法律、金融等高风险问题上的幻觉内容比上一代减少 52.5%。
OpenAI 放出了 GPT-5.5 Instant 的系统卡,确认了模型代号是 gpt-5.5-instant。这篇公告主要是定性说明,没有给出具体的评测分数、上下文窗口大小或发布时间。值得留意的是,这是 Instant 系列里第一次在网络安全、生物与化学武器制备这两个风险类别上被提升到“高能力”等级,并配套了相应的安全防护措施。
推荐理由:OpenAI 发布 GPT-5.5 Instant 系统卡,确认模型代号 gpt-5.5-instant,该系列在网络安全与生化武器制备两类风险上被提升到高能力等级并配套防护措施。
NVIDIA 这篇博客主要讲了两件事:一是 Peter Steinberger 做的自托管持久化智能体 OpenClaw 在 GitHub 上火了,到 2026 年 3 月已经攒了 25 万颗星,增速超过了 React。二是 NVIDIA 自己推出了 NemoClaw,用 OpenShell 沙箱和 Nemotron 模型来跑智能体。
推荐理由:OpenClaw 自托管智能体 60 天在 GitHub 攒下 25 万星,增速超过 React,NVIDIA 借此讨论常驻智能体的 token 成本与安全边界。
OpenAI 自己出来解释了 GPT-5.1 之后模型爱用“哥布林”“小妖精”打比方的怪癖是怎么来的。根子出在“书呆子”这个个性定制选项上:训练时给这个风格打分的奖励模型,对带幻想生物词汇的输出格外偏爱,76.2% 的数据集里都给更高分。虽然选“书呆子”的用户只占 2.5%,但贡献了 66.7% 的“哥布林”出现次数。
推荐理由:OpenAI 解释 GPT-5.1 爱用哥布林打比方的来源,训练中给书呆子风格打分的奖励模型对幻想生物词汇格外偏爱,76.2% 的数据集里给更高分。
Sam Altman 在 OpenAI 官网发了一篇讲公司原则的文章,没提具体模型、参数、定价或发布时间。文章列了五条:一是“民主化”,不让 AI 权力集中在少数公司手里;二是“给人自主权”,让用户用 AI 做更多事,但也会在不确定时先收紧限制。
推荐理由:Sam Altman 在 OpenAI 官网发文列出民主化、个人自主等五条原则,并承认未来可能要在给人自主权与加强安全韧性之间做取舍。
OpenAI 搞了一个针对 GPT-5.5 的生物安全漏洞悬赏计划,想找能一次性绕过五道生物安全题的通用越狱提示词。测试只能在 Codex Desktop 上进行,成功者可以拿到 2.5 万美元,部分突破也可能酌情给点小奖。申请从 2026 年 4 月 23 日开放到 6 月 22 日,测试窗口是 4 月 28 日到 7 月 27 日。
推荐理由:OpenAI 为 GPT-5.5 开设生物安全漏洞悬赏,寻找能一次绕过五道生物安全题的通用越狱提示词,最高奖励 2.5 万美元。
Anthropic 在 X 上说,他们参与的一项关于“潜意识学习”的研究今天发在 Nature 上了。核心结论是,大模型能通过训练数据中藏着的信号,把偏好、不对齐这类“特质”传下去。帖子只给了一句话和论文链接,没提实验用了什么规模的模型、具体怎么设计的、效果有多强。对从业者来说,关键的可复现细节正文都没披露,这点先别太激动。
推荐理由:Anthropic 参与的研究登上 Nature,指出大模型能通过训练数据中的隐藏信号传递偏好或不对齐特质,把对齐风险的关注点从显式指令扩展到数据本身。
Anthropic 的研究员搞了个实验,让 Claude Opus 4.6 去加速解决一个核心对齐难题:怎么用弱 AI 模型来监督训练更强的模型。这相当于让一个水平一般的老师去教一个更聪明的学生,看能不能教好。正文没披露实验的具体设置、对比基准、评估指标和结果,所以效果到底怎么样还不清楚。
推荐理由:Anthropic 研究员让 Claude Opus 4.6 加速解决弱模型监督强模型的对齐难题,实验设置与结果尚未披露,这一研究方向本身值得了解。
OpenAI 宣布扩大“网络可信访问(TAC)”计划,并发布 GPT-5.4 的一个变体 GPT-5.4-Cyber,这个模型在网络安全任务上放得更开,专门给经过身份验证的防御人员使用。目前计划覆盖数千名个人防御者和数百个负责关键软件安全的团队。文章说,AI 帮防御者更快发现和修复漏洞,但攻击者也在用,所以不能等风险到某个临界点再行动。
推荐理由:OpenAI 将 GPT-5.4-Cyber 开放给通过身份验证的安全防御人员,并把网络可信访问计划扩至数千名个人防御者和数百个关键软件团队。
OpenAI 说他们发现一个跟第三方开发库 Axios 有关的安全问题,属于一次行业性事件。目前没看到用户数据被访问、系统被入侵或软件被篡改的证据。出于谨慎,他们正在更新 macOS 应用的认证证书,所有用户都得升级到最新版。这么做的目的是降低有人分发假冒 OpenAI 应用的风险,哪怕可能性很小。
推荐理由:OpenAI 因第三方库 Axios 的安全问题,要求所有 macOS 用户升级应用并更换认证证书,以降低假冒应用分发的风险。
Anthropic 发了个新项目叫 Project Glasswing,专门盯着最关键的软件做安全加固。背后用的是他们最新的前沿模型 Claude Mythos Preview,官方说它找漏洞的能力仅次于最顶尖的人类专家。不过正文没给出具体跑分、测试范围、怎么申请试用,也没说什么时候正式开放,所以实际效果还得等可复现的评测出来再看。
推荐理由:Anthropic 启动 Glasswing 项目,用前沿模型 Claude Mythos Preview 为关键软件排查漏洞,官方称其能力仅次于顶尖人类专家,这是 AI 参与安全加固的一条路径。
Anthropic 发了一条推文说他们在 Claude 里找到了情绪概念的内部表征,这些表征能影响模型的行为,有时还会出现让人意外的效果。推文没展开讲具体是怎么找到的、在模型的哪一层、用了什么干预手段,也没给任何量化数据。我会先打个折——这更像是一个研究方向预告,而不是一份可复现的结论。
推荐理由:Anthropic 称在 Claude 内部找到情绪概念的表征,并发现这些表征能影响模型行为,为理解大模型行为来源提供了一条内部机制线索。
OpenAI 在 2026 年 3 月 25 日上线了一个公开的“安全漏洞赏金”计划,跟之前的安全漏洞赏金不同,这次专门盯着 AI 被滥用或绕过安全限制的场景。主要收三类问题:一是智能体(比如浏览器里的 ChatGPT Agent)被第三方提示词注入劫持,导致泄露用户信息或执行有害操作,复现率得超过 50%。
推荐理由:OpenAI 上线公开的安全漏洞赏金计划,专门受理智能体被提示词注入劫持等三类 AI 滥用问题,并明确排除普通越狱,划出了与常规漏洞赏金不同的受理边界。
OpenAI 这篇博客讲的是怎么让前沿大模型更听话——不是听所有人的话,而是学会按“系统 > 开发者 > 用户 > 工具”这个优先级来执行指令。他们做了一个叫 IH-Challenge 的训练数据集,用强化学习来练模型。设计上避开了三个坑:指令本身太复杂导致模型搞不清、靠另一个模型打分不靠谱、以及模型学会偷懒(比如无脑拒绝所有请求)。
推荐理由:OpenAI 发布 IH-Challenge 训练集,用强化学习让模型按系统、开发者、用户、工具的优先级执行指令,并说明设计时如何避开指令过复杂、模型打分不可靠和模型无脑拒绝这三个坑。