OpenAI 发布前沿 AI 训练安全案例早期指南
OpenAI 公布前沿 AI 训练安全案例的早期指南，涵盖技术防护措施、运营实践以及失准事件调查三方面。该指南旨在为前沿 AI 训练建立安全论证框架。
#安全/对齐
#安全/对齐
今日 0 条昨天 · 9月29日星期二
9月24日星期四
Google DeepMind 为 Private AI Compute 引入安全服务端记忆
Google DeepMind 公布 Private AI Compute 的新技术能力，将私密的服务端持久记忆引入该平台，使 AI 助手能跨设备保留上下文。数据密封在加密存储中，解锁密钥仅保存在用户设备上，模型访问时通过端到端加密通道进入云端安全隔区，在隔离内存中临时解密并即时重新加密。
推荐理由：原文说明云端持久记忆如何用安全隔区与设备端密钥实现隐私保护，可了解云端 AI 记忆的隐私架构思路。
9月23日星期三
OpenAI 开源心理健康评测集 MentalHealthBench，联合 80 多位持证心理医生，测模型在真实对话里靠不靠谱
OpenAI 放出了一个叫 MentalHealthBench 的开源评测集，专门看 AI 在心理健康对话里表现怎么样。这个评测集是和 22 个国家、80 多位持证心理医生和精神科医生一起做的，覆盖了从日常情绪倾诉到紧急危机干预的各种场景，还分了成人、青少年、照顾者等不同角色。它不只看模型有没有触发安全红线，更会检查模型会不会主动追问背景、有没有尊重用...
推荐理由：OpenAI 放出了一个开源的、由 80 多位持证临床医生参与构建的心理健康评测集，覆盖场景很全，而且检查维度比常规安全测试更细，比如会看模型有没有主动追问背景、有没有尊重用户。这对做 AI 安全和产品的团队来说，是个能直接拿来用的工具。没给更高分是因为它目前还是个评测工具，不是产品落地或重大技术突破。
9月22日星期二
OpenAI 发第三方安全评估原则：要独立、要科学、要保密，但没说谁来评、多久出结果
OpenAI 发了一篇博客，讲他们想让第三方机构怎么评估自家模型的安全性。核心是四个评估方向：审安全论证（就是看你的安全声明有没有证据支撑）、测关键防护（比如防越狱、防滥用）、测能力边界（看模型到底能干什么危险事）、以及部署后的持续监控。原则强调评估要独立、要科学、要保密，评估周期从几周到几个月不等。但正文没披露具体找谁评、评完结果是否公开、以及如果评...
9月3日星期四
Google DeepMind 推出 Fairwind 计划，向政府和可信伙伴开放 Gemini 3.8 Flash Cyber 网络防御能力
Google DeepMind 推出 Fairwind Program，面向政府机构、关键基础设施运营商和网络安全伙伴限量开放其最先进的网络防御能力。该计划将专用网络模型 Gemini 3.8 Flash Cyber 与 CodeMender harness 结合，可自主发现、验证并修复漏洞，把原本数周的手动修复压缩到数分钟内生成可部署补丁，且运行成本低于传统前沿模型。
推荐理由：原文给出 Fairwind 计划的准入对象、模型与工具组合，读者可据此判断自主漏洞修复在企业与政府场景的落地方式。
9月2日星期三
Allen AI 用心理测量学给大模型基准做“体检”，发现很多题目测的根本不是你以为的能力
Allen AI 开源了一套叫 BenchMIRT 的方法，用多维项目反应理论（MIRT）来审查大模型评测基准到底在考什么。他们分析了 100 个模型在 16 个基准、超过 3.4 万道题上的表现，没给任何预设，系统自动分离出两个核心能力维度：安全性和通用推理能力。比如 BBQ 基准里一道关于祖孙俩叫 Uber 的题，表面测年龄偏见，实际上还要求模型理...
推荐理由：Allen AI 开源了一套方法，拿项目反应理论来审计评测基准，背后有 100 个模型和 3.4 万道题撑腰。分数没上 80 是因为它是个方法论工具，不是能直接上线的产品更新，但 H、K、R 三个点都踩实了，信息也够硬。
9月1日星期二
Anthropic 发布 Enterprise Frontier Safeguards，客户自持数据存储与密钥
Anthropic 发布 Enterprise Frontier Safeguards（EFS），把零数据留存（ZDR）的隐私性与检测滥用的安全监控结合，数据存放在客户自控的云基础设施而非 Anthropic。
推荐理由：原文给出 EFS 的数据留存与监控架构细节，读者可据此判断企业部署前沿模型时的隐私与安全取舍。
8月27日星期四
Google DeepMind 试点全球首个双盲 AI 评测
Google DeepMind 宣布推出全球首个针对专有前沿 AI 模型的双盲评测，将外部评测限制在加密环境中，避免模型提前接触测试题目。该试点与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作，在隐私保护环境下用保密基准测试 Gemini Flash Lite 模型。Google 称此举针对基准污染问题，在零日志协议和合同保障之外增加了技术与加密层面的保护。
推荐理由：Google DeepMind 与新加坡 AI 安全研究所等机构试点双盲评测，读者可了解基准污染问题的技术应对路径。
8月25日星期二
Anthropic 启动 500 万美元资助计划，推动 AI 对用户福祉影响的独立评估
Anthropic 推出 500 万美元资助计划，为独立研究提供直接资金、模型访问和技术支持，产出可衡量 AI 对用户福祉影响的开源评估。资助对象将完全独立开展工作，成果以开源项目形式发布。申请截止 9 月 21 日，入选完整提案者将于 10 月 5 日前收到通知。
8月7日星期五
OpenAI 说未发布模型 Astra 可能摸到“高危”网络攻击门槛
OpenAI 在 8 月 7 日公布，内部测试发现即将推出的模型 Astra 在自主编程和网络安全上进步明显，昨晚他们判断已经不能排除模型达到自家安全框架里的“高危”级别。这个级别意味着模型能自己找漏洞、写攻击程序，在没人帮忙的情况下攻破现实中加固过的系统，或者只给一个大致目标就能策划并执行全新的端到端攻击。OpenAI 确认 Astra 没参与之前 ...
推荐理由：OpenAI 在 8 月 7 号发了篇博文，说他们内部测试下一代模型 Astra 时，发现这模型在写代码和搞网络安全上进步太猛，已经踩到了自家安全框架里“高危”的红线。我会先打个折，因为正文没披露具体测试细节和样本量，但光凭 OpenAI 自己站出来说“我们还没发布的模型可能已经能自己找漏洞、攻破加固系统了”，这在行业里就是个大新闻。之前没哪个头部实验室这么干过，等于提前给整个圈子敲了警钟。文章里对“高危”的定义写得很清楚，不是空泛的担忧，而是给出了具体的能力描述，这对做安全对齐和关注政策的人有直接参考价值。
7月17日星期五
Google DeepMind 发布 Gemini 3.5 Flash Cyber 网络安全模型
Google DeepMind 发布 Gemini 3.5 Flash Cyber，基于 3.5 Flash 微调，用于快速发现、验证和修补漏洞，在 CyberGym 等基准上以多次调用取得接近更大模型的成绩。
推荐理由：原文给出轻量安全模型在多个基准和 Google 内部代码库的实测结果，可据此判断专用小模型在漏洞发现上的性价比。
6月16日星期二
Google DeepMind 发布 AI Control Roadmap，用纵深防御管控内部 AI 智能体
Google DeepMind 发布 AI Control Roadmap，一套用于构建和管理 Google 内部部署的高级 AI 的框架，采用纵深防御思路，在模型对齐之外增加系统级安全层，即便对齐不完美也能提供保障。
推荐理由：Google DeepMind 公开内部 AI Control Roadmap，给出把智能体当作内部威胁来监控与拦截的分层思路。
6月3日星期三
英伟达和微软搞了一套统一方案，让 AI 能在 Windows 电脑、云端和本地服务器之间来回跑
微软 Build 大会上，两家宣布把 AI 部署的底层打通了。简单说，就是同一个 AI 应用，既能在你笔记本的 RTX 显卡上跑，也能无缝切到 Azure 云或者公司本地的 DGX 工作站上，不用重写代码。现场还亮了两款新硬件：RTX Spark 是个小盒子，能提供 1 petaflop 的 AI 算力（大概相当于每秒一千万亿次计算）；DGX Stat...
推荐理由：HKR 三项都过了。NVIDIA 和微软这次合作，把 agent 部署从 Windows 到 Azure 再到本地串成一条线，还亮出了 1 petaflop 和 20 petaflops FP4 两个硬件规格，对从业者来说有信息增量。不过消息源是厂商自己，正文没给定价、跑分和迁移细节，所以分数没往上拉。
5月16日星期六
Google DeepMind 与新加坡达成国家 AI 合作，落地医疗、教育与科研项目
Google DeepMind 宣布与新加坡政府达成国家 AI 合作，在新加坡推出多项计划，聚焦医疗健康、科学发现与教育。合作内容包括探索 AI 辅助临床医生、用 AlphaFold 和 Google Earth 推进东南亚传染病研究、为盲人及低视力跑者开发基于 Gemma 的跑步助手，并向中小学至初级学院教育者提供 Gemini for Education。
5月13日星期三
OpenAI 给 Windows 版 Codex 造了个沙箱，让编程助手能干活又不乱碰文件
Codex 是 OpenAI 的编程助手，能在开发者电脑上直接跑命令。Windows 版之前没有沙箱，用户要么得每条命令都点同意，要么就得开“完全访问”把安全交给运气。OpenAI 工程师 David Wiesen 写了篇文章讲他们怎么从零给 Windows 造沙箱。他们先看了 Windows 自带的几个方案：AppContainer 管得太死，编程助...
推荐理由：OpenAI 给 Windows 版 Codex 搭了个安全沙箱，主要管两件事：文件访问和网络连接。我会先打个折——正文没披露沙箱的技术方案，比如是容器还是虚拟化、权限粒度到哪一层，所以没法判断它到底有多硬。但这条消息对做 coding agent 的人很实际，因为文件系统和网络就是最容易出事的两个面。
5月8日星期五
阿里许晓斌内部访谈：工程师用 AI 后，写代码时间从 30% 降到 5%，端到端交付效率提升 2-3 倍
许晓斌在内部访谈里给了几个数：工程师重度用 AI 后，写代码占工作时间从 30% 掉到 5%，跟 Agent 对话的时间从 5% 涨到 60%，端到端交付效率提升 2 到 3 倍，纯编码效率提升 10 倍。这些数字来自内部访谈，不是大规模统计，样本量和统计口径正文没披露，所以我会先打个折看。核心变化不是代码写得更快，而是工程师的时间分配被彻底打散重排—...
推荐理由：阿里技术这篇是内部访谈整理的组织方法论，不是产品发布或模型更新，但给出的数字很具体，能让人直观感受到 AI 把工程师的工作重心从写代码拽到了指挥 Agent 上。我会先打个折：效率提升 2 到 3 倍这个说法正文没交代是怎么算出来的，样本量和统计口径都不清楚，这点先别太激动。不过 HKR 三项都踩中了，放在 featured 门槛上刚好。
5月7日星期四
OpenAI 把 GPT-5.5 和 GPT-5.5-Cyber 的网络安全权限分级开放给已认证的防御方
OpenAI 把“可信网络访问”机制扩展到了 GPT-5.5 和 GPT-5.5-Cyber 上。简单说，就是给经过身份验证的安全从业者开绿灯，让他们能用更强的模型做防御类工作，比如漏洞分析、恶意软件排查、写检测规则，同时继续拦截攻击性操作。GPT-5.5 加上这个权限后，对大多数防御任务就够用了；GPT-5.5-Cyber 则更激进，只开放给做授权渗...
推荐理由：OpenAI 把可信网络访问从旧模型扩展到了 GPT-5.5 和 GPT-5.5-Cyber，只给验证过的防御者用，做漏洞研究和关键基础设施防护。我会先打个折：正文没披露怎么申请、要不要付费、模型在漏洞挖掘或攻防场景下的评测数据也没给，所以没法判断实际能力有多强。这点先别太激动，等有可复现的测试再下结论。
ChatGPT 上线“信任联系人”：检测到严重自伤风险时，可通知你指定的人
OpenAI 给 ChatGPT 加了一个可选的安全功能。成年人可以在设置里指定一位信任的联系人，比如家人或朋友。当系统自动监测和人工审核都判定你的对话里出现了严重的自我伤害倾向时，ChatGPT 会通知这位联系人。通知内容很克制，只说出现了需要关心的自伤话题，不会透露聊天细节。正文没披露具体的检测机制和误报率，只说审核团队会争取在一小时内完成判断。这...
推荐理由：H、K、R 三条都站得住：ChatGPT 的安全钩子很具体，也容易引发讨论。重要性给到 73 分、放在 featured 里是合适的，因为功能本身有话题性，但检测方式、配置流程和上线范围全是空白，没法往更高里打。
5月5日星期二
OpenAI 把 ChatGPT 默认模型换成了 GPT-5.5 Instant，回答更准、废话更少
OpenAI 把免费用户和默认聊天用的模型升级到了 GPT-5.5 Instant。官方说这次更新主要干了三件事：回答更靠谱、更简洁，并且更能利用你之前聊过的上下文来贴合你的偏好。内部测试里，在医疗、法律、金融这类高风险问题上，GPT-5.5 Instant 比上一代 GPT-5.3 Instant 的幻觉内容少了 52.5%；在用户举报过的事实错误对...
推荐理由：HKR 三项全中：OpenAI 把 ChatGPT 默认模型切到了 GPT-5.5 Instant，说答案更准、幻觉更少、个性化控制更好，但没给任何评测数字、价格或上下文窗口，我会先打个折。这点先别太激动，等看到实测再判断。
GPT-5.5 Instant 系统卡发布，这是 OpenAI 首个在网络安全和生化风险上被标为“高能力”的 Instant 模型
OpenAI 放出了 GPT-5.5 Instant 的系统卡，确认了模型代号是 gpt-5.5-instant。这篇公告主要是定性说明，没有给出具体的评测分数、上下文窗口大小或发布时间。值得留意的是，这是 Instant 系列里第一次在网络安全、生物与化学武器制备这两个风险类别上被提升到“高能力”等级，并配套了相应的安全防护措施。OpenAI 还特别...
推荐理由：我会先打个折：这张系统卡目前只有一个标题，正文什么都没披露。H 和 R 能过，是因为 OpenAI 官方放出 GPT-5.5 Instant 这个名字本身就够抓眼球，从业者会关心它跟现有模型的定位差异和价格。但 K 完全站不住——没有跑分、没有安全测试结果、没有上下文长度，连发布时间都没提，等于只有个壳。这点先别太激动，等后续有实际数据再重新评估。
5月1日星期五
NVIDIA 说 OpenClaw 开源智能体项目 60 天拿了 25 万星，但治理成本才是真问题
NVIDIA 这篇博客主要讲了两件事：一是 Peter Steinberger 做的自托管持久化智能体 OpenClaw 在 GitHub 上火了，到 2026 年 3 月已经攒了 25 万颗星，增速超过了 React。二是 NVIDIA 自己推出了 NemoClaw，用 OpenShell 沙箱和 Nemotron 模型来跑智能体。文章真正想聊的是治...
推荐理由：我会先打个折：这是 NVIDIA 官方博客，立场肯定偏向自家 Nemotron 和 NemoClaw，但文章没回避常驻 Agent 最要命的问题——token 成本暴涨和安全边界。OpenClaw 本身是 Peter Steinberger 做的自托管常驻 Agent，NVIDIA 用 OpenShell 沙箱和 Nemotron 模型给它加了网络、数据访问的默认限制，这个加固思路比单纯吹性能更有信息量。文中给出的推理后 token 增 100 倍、自治 Agent 再增 1000 倍的估算，虽然没披露测算口径，但把成本焦虑直接量化了，对做落地的人...
4月30日星期四
GPT-5 模型为什么满嘴都是“小妖精”
OpenAI 自己出来解释了 GPT-5.1 之后模型爱用“哥布林”“小妖精”打比方的怪癖是怎么来的。根子出在“书呆子”这个个性定制选项上：训练时给这个风格打分的奖励模型，对带幻想生物词汇的输出格外偏爱，76.2% 的数据集里都给更高分。虽然选“书呆子”的用户只占 2.5%，但贡献了 66.7% 的“哥布林”出现次数。更麻烦的是，强化学习没把这种口癖锁...
推荐理由：我会先打个折：正文就一段 RSS 摘要，触发条件、时间线和修复机制都没披露，所以没法做太硬的判断。但标题已经把传播点、根因和修复方向列出来了，GPT-5 输出“哥布林”这件事本身就够怪，从业者会立刻联想到模型人格化行为是怎么跑进输出链路的。这点先别太激动，因为信息缺口太大，但安全对齐和上线事故这两个话题叠加，确实值得放进 featured 里提醒大家留意后续。
4月27日星期一
OpenAI 发布 Sam Altman 署名文章，列出五条原则，并首次承认未来可能要在“给人自主权”和“加强安全韧性”之间做取舍
Sam Altman 在 OpenAI 官网发了一篇讲公司原则的文章，没提具体模型、参数、定价或发布时间。文章列了五条：一是“民主化”，不让 AI 权力集中在少数公司手里；二是“给人自主权”，让用户用 AI 做更多事，但也会在不确定时先收紧限制；三是“全民繁荣”，认为政府可能需要新经济模式，OpenAI 自己砸钱买算力、建数据中心就是为了把 AI 成本...
推荐理由：Sam Altman 署名发了一篇原则文章，不是产品发布，所以别指望看到新模型、参数、价格或时间表。我会先打个折：正文没披露任何硬数据，重要性到不了重大更新那档。但文章把民主化、个人自主、普遍繁荣、韧性、适应性这五条摊开，还直接点了病原体、网络安全、对齐和迭代部署的风险，等于 OpenAI 在安全路线上亮了一次底牌。真正值得盯的是他们承认以后要在自主和韧性之间做取舍——这话从 CEO 嘴里说出来，比喊口号实在。
4月23日星期四
OpenAI 为 GPT-5.5 的生物安全漏洞开悬赏，最高 2.5 万美元
OpenAI 搞了一个针对 GPT-5.5 的生物安全漏洞悬赏计划，想找能一次性绕过五道生物安全题的通用越狱提示词。测试只能在 Codex Desktop 上进行，成功者可以拿到 2.5 万美元，部分突破也可能酌情给点小奖。申请从 2026 年 4 月 23 日开放到 6 月 22 日，测试窗口是 4 月 28 日到 7 月 27 日。不过正文没披露具...
推荐理由：OpenAI 给 GPT-5.5 开生物安全漏洞赏金，HKR 三项全中：钩子够尖锐，2.5 万美元封顶是实打实的数字，生物风险红队测试也确实是行业敏感点。分数停在 80，因为摘要没披露报名条件、评测协议、覆盖范围和截止时间，这些缺口让我没法给更高。
4月16日星期四
Anthropic 参与的研究登上 Nature：大模型会通过数据里的隐藏信号“偷偷”传递偏好或对齐问题
Anthropic 在 X 上说，他们参与的一项关于“潜意识学习”的研究今天发在 Nature 上了。核心结论是，大模型能通过训练数据中藏着的信号，把偏好、不对齐这类“特质”传下去。帖子只给了一句话和论文链接，没提实验用了什么规模的模型、具体怎么设计的、效果有多强。对从业者来说，关键的可复现细节正文都没披露，这点先别太激动。
推荐理由：Anthropic 发了篇 Nature 论文，说大模型能从训练数据的隐藏信号里学到偏好甚至失配倾向，他们管这叫“潜隐学习”。这个方向挺有意思，因为它把对齐风险从“人写了什么指令”挪到了“数据里藏了什么没说的东西”。不过现在能看到的只有一条推文和论文链接，实验怎么做的、用了多大的模型、效果有多显著，正文一概没给。我会先打个折——概念新颖，但信息缺口太大，暂时只能当个值得盯的信号，别急着下结论。
4月15日星期三
Anthropic 用 Claude Opus 4.6 当自动化对齐研究员，测试弱模型能不能管住强模型
Anthropic 的研究员搞了个实验，让 Claude Opus 4.6 去加速解决一个核心对齐难题：怎么用弱 AI 模型来监督训练更强的模型。这相当于让一个水平一般的老师去教一个更聪明的学生，看能不能教好。正文没披露实验的具体设置、对比基准、评估指标和结果，所以效果到底怎么样还不清楚。关键信号是 Anthropic 开始把前沿模型直接当成自动化对齐...
推荐理由：Anthropic 自己人发的实验预告，角度新——用现有前沿模型去加速'弱模型监督强模型'这类对齐研究。我会先打个折：没给实验设置、基线、指标和结果，现在只能当方向信号看。但这件事本身值得关注，因为它在验证一个闭环——让模型自己参与怎么把模型训得更安全。
4月14日星期二
OpenAI 推出 GPT-5.4-Cyber，把高能力模型专门开放给安全防御人员用
OpenAI 宣布扩大“网络可信访问（TAC）”计划，并发布 GPT-5.4 的一个变体 GPT-5.4-Cyber，这个模型在网络安全任务上放得更开，专门给经过身份验证的防御人员使用。目前计划覆盖数千名个人防御者和数百个负责关键软件安全的团队。文章说，AI 帮防御者更快发现和修复漏洞，但攻击者也在用，所以不能等风险到某个临界点再行动。他们的思路是：用...
推荐理由：OpenAI 把 TAC 的盘子说清楚了——几千个验证过的防御者、几百个关键软件团队，而且明确跟 GPT-5.4-Cyber 和后续发布挂钩。话题踩在“谁能用最强模型搞安全”的争议线上，HKR 三项全中。不过正文只给了摘要，模型指标、评估方法和具体准入条件都没展开，所以放在 featured 而不是 p1。
4月11日星期六
OpenAI 因 Axios 库安全问题要求所有 macOS 用户更新应用，主要是换证书防山寨
OpenAI 说他们发现一个跟第三方开发库 Axios 有关的安全问题，属于一次行业性事件。目前没看到用户数据被访问、系统被入侵或软件被篡改的证据。出于谨慎，他们正在更新 macOS 应用的认证证书，所有用户都得升级到最新版。这么做的目的是降低有人分发假冒 OpenAI 应用的风险，哪怕可能性很小。正文没披露受影响的版本号和时间线，也没说 Axios ...
推荐理由：这是 OpenAI 官方桌面端的安全事件，给了 macOS 上的具体缓解措施，所以 H、K、R 都站得住。放在 featured 低分段是因为正文没披露受影响版本、暴露窗口、发现日期和完整修复时间线，信息缺口不小。
4月8日星期三
Anthropic 启动 Glasswing 项目，用新模型 Claude Mythos Preview 找关键软件漏洞
Anthropic 发了个新项目叫 Project Glasswing，专门盯着最关键的软件做安全加固。背后用的是他们最新的前沿模型 Claude Mythos Preview，官方说它找漏洞的能力仅次于最顶尖的人类专家。不过正文没给出具体跑分、测试范围、怎么申请试用，也没说什么时候正式开放，所以实际效果还得等可复现的评测出来再看。
推荐理由：这篇 Anthropic 一手公告，标题和摘要确认了 Project Glasswing 和 Claude Mythos Preview 两个名字，说能力仅次于顶尖人类专家，但正文没披露任何可复现的评测数据、软件范围或接入细节。我会先打个折：真正该盯的是他们后续会不会放出基准分数和第三方验证，现在只能当个方向性信号看。
4月3日星期五
Anthropic 新研究：Claude 内部有情绪概念，能驱动模型行为
Anthropic 发了一条推文说他们在 Claude 里找到了情绪概念的内部表征，这些表征能影响模型的行为，有时还会出现让人意外的效果。推文没展开讲具体是怎么找到的、在模型的哪一层、用了什么干预手段，也没给任何量化数据。我会先打个折——这更像是一个研究方向预告，而不是一份可复现的结论。对从业者来说，关键问题不是模型有没有情绪，而是这些表征能不能被稳定...
推荐理由：我会先打个折：这篇不是论文，更像一条研究动态，实验方法和数字全都没给。但它的钩子确实抓人——Anthropic 声称在 Claude 内部找到了能驱动行为的“情绪概念”，等于说模型的行为有时是被内部类似情绪的表示推着走的。这点先别太激动，因为正文没披露这些表征在哪一层、怎么定位、干预后行为变化有多大，可复现性存疑。真正值得盯的是可操纵性：如果能稳定找到并拨动这些概念，对对齐和风控都有用；如果只是事后贴标签，那就还是老问题。标题里的“情绪”容易让人往拟人化方向想，从业者反而会更警惕这种叙事。综合看，钩子和风险感知都到位，但知识增量有限，所以放在 fe...
3月25日星期三
OpenAI 开了个安全漏洞赏金计划，专门收 AI 滥用和越权操作的问题
OpenAI 在 2026 年 3 月 25 日上线了一个公开的“安全漏洞赏金”计划，跟之前的安全漏洞赏金不同，这次专门盯着 AI 被滥用或绕过安全限制的场景。主要收三类问题：一是智能体（比如浏览器里的 ChatGPT Agent）被第三方提示词注入劫持，导致泄露用户信息或执行有害操作，复现率得超过 50%；二是模型输出里意外暴露了 OpenAI 自己...
推荐理由：这不是模型发布或能力升级，而是一次治理流程更新，所以放在低 featured 档。但 OpenAI 把 AI 安全漏洞悬赏公开化，还划出了代理风险、专有信息泄露这些具体受理项，同时明确排除普通越狱，等于给行业打了个样。我会先打个折：正文没披露赏金金额和实际处理时效，实际效果还得看后续执行。
3月10日星期二
OpenAI 发了个训练集 IH-Challenge，专门教大模型分清指令的优先级
OpenAI 这篇博客讲的是怎么让前沿大模型更听话——不是听所有人的话，而是学会按“系统 > 开发者 > 用户 > 工具”这个优先级来执行指令。他们做了一个叫 IH-Challenge 的训练数据集，用强化学习来练模型。设计上避开了三个坑：指令本身太复杂导致模型搞不清、靠另一个模型打分不靠谱、以及模型学会偷懒（比如无脑拒绝所有请求）。每个训练任务都很简...
推荐理由：OpenAI 公开了一个叫 IH-Challenge 的研究物件，专门搞指令层级和防注入，所以 HKR 三项都站得住。正文没给指标、没提具体模型、也没说怎么发布，信息缺口不小，分数就先打在 77 这个位置。
3月9日星期一
OpenAI 宣布收购 Promptfoo，要把安全测试直接做进 Frontier 平台
OpenAI 发公告说要收购做 AI 安全测试的 Promptfoo，交易完成后会把它的技术整合到企业级平台 Frontier 里。Promptfoo 的工具现在有超过四分之一的财富 500 强公司在用，主要帮开发者在模型上线前做安全评估和红队测试，比如检测提示词注入、越狱、数据泄露、工具滥用这些风险。收购后，OpenAI 打算把自动化安全测试、红队演...
推荐理由：这条消息我会先打个折，因为收购价格和时间表正文都没写，没法判断交易规模和落地节奏。但 OpenAI 把一家已有大客户基础的评测工具直接收进 Frontier，对做 agent 的团队来说是个强信号——以后安全测试和红队评估可能变成平台自带能力，不用再外挂工具。这点先别太激动，等更多细节出来再看。
3月6日星期五
OpenAI 把代码安全扫描工具 Codex Security 开放给付费用户试用，下个月免费
OpenAI 在 3 月 6 日上线了 Codex Security 的研究预览版，面向 ChatGPT Pro、Enterprise、Business 和 Edu 用户，下个月可以免费用。这个工具相当于一个应用安全助手，会先读懂你的项目结构，生成一份可编辑的威胁模型，再根据这个模型去找漏洞、做验证、给修复建议。过去 30 天里，它扫了外部仓库超过 1...
推荐理由：这是 OpenAI 给开发和安全团队的一个实质性产品更新，不是泛泛的安全宣传。切入点新、有具体扫描和误报数据、回应了 AI 编码风险和告警疲劳，三个点都站得住。不过目前还是研究预览，正文没披露误报下降的具体测试条件和补丁的采纳率，效果得等正式版再看。
3月5日星期四
OpenAI 发现推理模型很难按指令控制自己的思考过程，但这反而是个安全上的好消息
OpenAI 发了篇论文，核心结论是：现在最强的推理模型，都没法很好地控制自己的“思考草稿”（思维链）。他们搞了个叫 CoT-Control 的测试，用 13000 多个任务去要求模型在思考时遵守特定规则，比如全程用小写字母、避开某个关键词。结果所有被测模型的遵守率最高只有 15.4%，最低的甚至只有 0.1%。模型经常在草稿里自己都意识到“坏了，我刚...
推荐理由：OpenAI 用一篇文章标题说推理模型很难控制自己的 chain of thought，而且把这当成一件好事。这个说法挺反常识的——通常我们会觉得模型思考过程不可控是个安全隐患，但他们反过来认为这有利于安全。目前只有标题，正文没放出来，所以看不到具体实验、数字或者机制解释。我会先打个折：判断只能基于标题本身，别急着下结论说他们找到了什么新方法。对做推理模型安全和可解释性的人来说，这个观点值得追一下原文，但信息缺口还很大。
OpenAI 发布 GPT-5.4 Thinking 系统卡，首次给通用推理模型加了高级网络安全防护
OpenAI 在 2026 年 3 月 5 日公开了 GPT-5.4 Thinking 的系统卡。这是 GPT-5 系列最新的推理模型，也是第一个把“高级网络安全能力”的防护措施做进通用模型里的产品。它的安全方案跟之前的 GPT-5 系列差不多，但这次把给 GPT-5.3 Codex（代码模型）用的那套网络安全防护搬到了 ChatGPT 和 API 里...
推荐理由：这篇系统卡信息量不大，没给具体分数、缓解细节和部署条件，我会先打个折。但它真正值得盯的是风险门槛的变化——OpenAI 把“高能力网络安全”缓解从专用模型扩到了通用推理模型，这是一个信号。标题里的“首个”不是公关话术，而是安全策略在升级。正文没披露评测数据，所以别指望从这里看到性能对比，重点看安全边界怎么划。
3月3日星期二
GPT-5.3 Instant 发布：少说废话、少拒绝，日常对话更干脆
OpenAI 在 2026 年 3 月 3 日更新了 ChatGPT 里用得最多的模型，叫 GPT-5.3 Instant。这次改动主要冲着日常对话体验去的：模型不再动不动就拒绝回答，也不会在回答前先啰嗦一堆免责声明。文章给了一个具体对比——问远程射箭弹道计算，旧版 GPT-5.2 Instant 直接拒绝，说这能提高武器效能所以不能帮；新版 GPT-...
推荐理由：OpenAI 更新了 ChatGPT 最常用的日常模型，这篇帖子靠一个具体的 5.2 vs 5.3 行为对比把安全边界的变化讲清楚了，所以 HKR 三项都站得住。我会先打个折：正文没给系统卡、基准分、API 价格，信息缺口明显，所以重要性停在 84 不进 85。
GPT-5.3 Instant 系统卡
OpenAI 发了 GPT-5.3 Instant 的系统卡，这是 GPT-5 系列里最新的一个模型。按他们说的，这个版本主要提升在回复速度更快、联网搜索时给出的答案更贴切上下文，并且减少了那种把天聊死的车轱辘话和过于绝对的表述。安全防护措施基本沿用了上一代 GPT-5.2 Instant 的方案，正文没披露新的安全评测数据、具体跑分或能力边界，详细内...
推荐理由：这篇就是 OpenAI 官方文档页面的一个占位更新，标题确认了 GPT-5.3 Instant 这个新变体存在，安全策略沿用 5.2 那套。但正文是空的，没有跑分、没有价格、没有延迟对比，也没提上下文长度。所以我会先打个折：知道有这么个东西，但暂时没法判断它到底多快多省。
2月19日星期四
OpenAI 投 750 万美元给英国政府主导的对齐研究基金，让外部团队独立探索 AI 安全方案
OpenAI 宣布向英国 AI 安全研究所（UK AISI）发起的“对齐项目”基金拨款 750 万美元（约 560 万英镑）。这笔钱会和其他公共、慈善及行业资金一起，把基金总盘子推到超过 2700 万英镑，专门资助全球独立团队做 AI 对齐研究——也就是研究怎么让越来越聪明的 AI 系统别跑偏、别干出危险的事。OpenAI 自己会继续在内部做跟模型开发...
推荐理由：我会先打个折：正文只给了标题和链接，没披露项目名单、时间表或评审流程，所以很多判断只能基于现有信息缺口来推。OpenAI 宣布给英国 AISI 的 The Alignment Project 投 750 万美元，用来推进对齐独立研究。钱数本身不算大新闻，但'谁出钱、谁研究、谁说了算'这个三角关系，在安全圈里一直是个敏感话题，所以这篇东西在治理层面有讨论价值。
2月1日星期日
OpenAI 封掉了一批用 ChatGPT 跑完整“杀猪盘”流程的账号
OpenAI 在 2026 年 2 月的恶意使用报告里，详细拆解了骗子怎么用 ChatGPT 走完“杀猪盘”全流程：先用 AI 生成搭讪话术去冷接触（ping），再编造能调动情绪的内容让人上头（zing），最后编理由要钱（sting）。这次新披露的一个柬埔寨团伙，就是用 ChatGPT 生成诈骗消息，再投到社交媒体上。OpenAI 的判断是，AI 主要...
推荐理由：OpenAI 2 月的恶意使用报告里，最抓人的是那个柬埔寨团伙的案例——直接用 ChatGPT 写诈骗消息去社交平台撒网。报告把杀猪盘流程拆成 ping/zing/sting 三步，这个框架本身比单个案例更有复用价值。我会先打个折：正文被截断了，没看到更多技术细节和对抗措施，所以分数没往上顶。但作为官方披露的、带具体案例的威胁情报，给 78 分放在 featured 里是合适的。