跳到正文

#评测/基准

今日 0 条

9月23日星期三

OpenAI News

OpenAI 开源心理健康评测集 MentalHealthBench,联合 80 多位持证心理医生,测模型在真实对话里靠不靠谱

OpenAI 放出了一个叫 MentalHealthBench 的开源评测集,专门看 AI 在心理健康对话里表现怎么样。这个评测集是和 22 个国家、80 多位持证心理医生和精神科医生一起做的,覆盖了从日常情绪倾诉到紧急危机干预的各种场景,还分了成人、青少年、照顾者等不同角色。它不只看模型有没有触发安全红线,更会检查模型会不会主动追问背景、有没有尊重用...

推荐理由:OpenAI 放出了一个开源的、由 80 多位持证临床医生参与构建的心理健康评测集,覆盖场景很全,而且检查维度比常规安全测试更细,比如会看模型有没有主动追问背景、有没有尊重用户。这对做 AI 安全和产品的团队来说,是个能直接拿来用的工具。没给更高分是因为它目前还是个评测工具,不是产品落地或重大技术突破。

9月22日星期二

OpenAI News

OpenAI 发第三方安全评估原则:要独立、要科学、要保密,但没说谁来评、多久出结果

OpenAI 发了一篇博客,讲他们想让第三方机构怎么评估自家模型的安全性。核心是四个评估方向:审安全论证(就是看你的安全声明有没有证据支撑)、测关键防护(比如防越狱、防滥用)、测能力边界(看模型到底能干什么危险事)、以及部署后的持续监控。原则强调评估要独立、要科学、要保密,评估周期从几周到几个月不等。但正文没披露具体找谁评、评完结果是否公开、以及如果评...

9月16日星期三

NVIDIA 博客

NVIDIA Vera Rubin NVL72 首秀 MLPerf 推理榜,官方只说“领先”没给分

NVIDIA 的下一代旗舰 Vera Rubin NVL72 第一次跑 MLPerf Inference v6.1 就拿了第一。这台机器是 Blackwell 之后的顶配,72 张 GPU 通过 NVLink 连在一起,专门为大规模推理场景设计。不过官方博客只说了“领先性能”,没公布具体分数,也没说跟谁比、领先多少。对买家来说,这暗示推理吞吐和延迟会比...

9月2日星期三

Hugging Face 博客

Allen AI 用心理测量学给大模型基准做“体检”,发现很多题目测的根本不是你以为的能力

Allen AI 开源了一套叫 BenchMIRT 的方法,用多维项目反应理论(MIRT)来审查大模型评测基准到底在考什么。他们分析了 100 个模型在 16 个基准、超过 3.4 万道题上的表现,没给任何预设,系统自动分离出两个核心能力维度:安全性和通用推理能力。比如 BBQ 基准里一道关于祖孙俩叫 Uber 的题,表面测年龄偏见,实际上还要求模型理...

推荐理由:Allen AI 开源了一套方法,拿项目反应理论来审计评测基准,背后有 100 个模型和 3.4 万道题撑腰。分数没上 80 是因为它是个方法论工具,不是能直接上线的产品更新,但 H、K、R 三个点都踩实了,信息也够硬。

8月27日星期四

Google DeepMind

Google DeepMind 试点全球首个双盲 AI 评测

Google DeepMind 宣布推出全球首个针对专有前沿 AI 模型的双盲评测,将外部评测限制在加密环境中,避免模型提前接触测试题目。该试点与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境下用保密基准测试 Gemini Flash Lite 模型。Google 称此举针对基准污染问题,在零日志协议和合同保障之外增加了技术与加密层面的保护。

推荐理由:Google DeepMind 与新加坡 AI 安全研究所等机构试点双盲评测,读者可了解基准污染问题的技术应对路径。

OpenAI News

OpenAI 和博科尼大学做了个实验:用 ChatGPT 的学生作业质量更高,练过因果推理的学生想法更独特

博科尼大学找了 1000 多名大一新生做随机分组实验,让他们给学校纪念品店写营销方案。用 ChatGPT(GPT‑4o)的学生在 5 分制评分里高了将近 1 分,答案更连贯、更像专家写的。另一组学生没碰 AI,而是练了一个因果推理游戏——教他们解释方案为什么行得通、什么时候会翻车。这组人评分没涨,但想法种类明显更多,而且更会讲清楚自己方案的逻辑和风险。...

推荐理由:我会先打个折:这是 OpenAI 自己做的实验、自己写的博客,立场不可能完全中立。但实验本身不水——博科尼大学拉了 1000 多名新生做随机对照,用 GPT-4o 写营销方案的学生评分涨了将近 1 分(5 分制),答案更连贯、更像专家写的。另一组没碰 AI,练了一个因果推理游戏,教他们解释方案为什么行得通、什么时候会翻车,这组评分没涨,但想法种类明显更多,而且更会讲清楚自己方案的逻辑和风险。正文没披露评分者是不是知道哪份答案来自 AI 组,这点先别太激动。整体来说,研究把“AI 帮你写得好”和“训练让你想得宽”拆开看了,对做教育产品的团队有启发,但...

8月13日星期四

Hugging Face 博客

Hugging Face 用 1200 人加编程智能体复现了 2200 篇 ICML 论文,发现审稿人没空看的证明,复现时真查出了问题

Hugging Face 搞了一场 19 天的黑客松,1200 多人带着 Claude Code、Codex 这类编程智能体,把 ICML 2026 接收的论文挑了 2226 篇来复现,覆盖了大会近三分之一。他们让智能体读论文、写代码、跑实验,然后汇报结果。一篇拿了 spotlight 的论文,审稿人自己承认没仔细检查证明,结果在这次复现里被抓住了真实...

推荐理由:Hugging Face搞了场大规模复现实验,让编程智能体读论文、写代码、跑结果,还顺手揪出一篇spotlight论文的证明错误。我会先打个折:正文只给了标题和摘要,复现成功率、智能体具体怎么干活这些关键数据都没披露,所以别急着下结论说智能体审稿靠谱。但光是这个规模和那个审稿人漏掉的错误,就足够让学界捏把汗了。

8月12日星期三

Google 研究院

模型说错话,七成以上不是没学过,而是没想起来

Google Research 把模型的事实性错误拆成两类:货架空着(训练时压根没学过)和钥匙丢了(学过但推理时调不出来)。他们用一套叫 SIR 的探测方法,拿训练数据去戳模型内部状态,看正确答案能不能被激活。测了 4 个模型、6 个数据集,结果发现至少 70% 的错误都属于“钥匙丢了”——知识在训练里见过,就是没提取出来。Gemini 2.5 Pro...

推荐理由:Google Research 把模型的事实性错误分成两类:训练时压根没学过的“空货架”,和学过但推理时调不出来的“丢钥匙”。他们用 SIR 方法测了 4 个模型、6 个数据集,发现至少 70% 的错误属于后者——知识在训练数据里见过,就是没提取出来。这个结论对做知识密集型应用的人很实用,但正文没披露不同规模模型的具体 breakdown,所以我会先打个折,不把重要性拉满。

8月8日星期六

Hugging Face 博客

AI 家教知道什么时候该帮忙、什么时候该闭嘴吗?Allen AI 做了个测试

Allen AI 放出了一个叫 TutorMoments 的评测框架,专门看大模型当数学家教时会不会“帮过头”。他们拿真人一对一辅导的对话记录,让有经验的老师标出那些关键节点:家教是该给提示降低难度,还是逼学生自己动脑。然后把对话喂给模型,让模型接替家教,跟另一个扮演学生的模型继续聊。结果发现,只告诉模型“好好辅导”,它基本都在过度帮忙,很少逼学生深入...

推荐理由:Allen AI 放出的 TutorMoments 不是又一个刷榜的数学题集,而是拿真人辅导记录,让有经验的老师标出那些“该帮还是该忍”的关键节点,再让模型接替家教跟学生模型继续聊。结论很直白:模型一上来就忍不住帮忙,很少逼学生深入思考。这个发现对做 AI 辅导产品的人是个实打实的提醒,所以 H 和 K 都给了。但评测框架本身偏教育场景,正文也没说这套方法能直接搬到客服、编程辅导等其他对话场景,所以 R 没给。

7月22日星期三

OpenAI News

OpenAI 发布 Presence:一个已经在自家客服跑通的 AI 坐席产品

OpenAI 把给企业部署 AI 客服和内部流程机器人的经验打包成了产品 Presence,今天正式推出。它不是一个裸模型,而是一套带护栏的生产系统:企业可以设定 AI 能查哪些系统、能执行哪些操作、什么情况下必须转人工。OpenAI 自己的英文客服热线 1-888-GPT-0090 已经跑在 Presence 上,目前 75% 的来电不需要人工介入就...

推荐理由:OpenAI 把内部验证过的客服 agent 堆栈产品化了,甩出一个 75% 自动化率和两个具名企业参考。没给更高分是因为目前只有厂商自己的公告,没有第三方评测或客户侧数据,定价也没披露——如果是真的挺省钱,但这点先别太激动。

7月16日星期四

Hugging Face 博客

Ai2 公开 Shippy 海事 AI 助手的工程经验:把不可靠的模型装进确定性的工具里

Ai2 的 Skylight 团队做了一个叫 Shippy 的海事 AI 助手,帮分析师查渔船活动、专属经济区边界和船只轨迹。他们把架构拆成三块:灵魂(系统提示词,定人设和行为边界)、技能(用 Markdown 文件教它调 API 和解读轨迹数据)、配置(运行时设置,目前用 Claude Opus 4.6 加 OpenClaw 框架)。核心思路是用确定...

推荐理由:Ai2 的三层 Agent 架构和用 Markdown 当技能说明书是能直接拿来用的工程思路,但渔船监控这个领域太小众,普通读者代入感弱,刚好卡在 featured 门槛上。

7月8日星期三

OpenAI News

OpenAI 审计 SWE-Bench Pro,发现约三成题目本身有毛病

OpenAI 对编程评测集 SWE-Bench Pro 做了一次质量审查,估计里面大约 30% 的题目是坏的。他们先用自动管线筛出 286 道可疑题目,再让基于 Codex 的调查 agent 和五位资深工程师分别复核。工程师最终标记出 249 道(34.1%)有缺陷的题目,主要毛病是测试太死板、题目描述漏要求、测试覆盖不足,以及题目描述误导模型。Op...

推荐理由:OpenAI 对 SWE-Bench Pro 做了一次质量审计,发现约 34% 的题目有缺陷,这个比例逼着行业重新审视编程评测的可靠性。文章给出了具体的缺陷分类和一套人机结合的复核流程,不是空喊评测有问题。没给更高分是因为这本质上是一份基准质量报告,不是模型能力突破或产品发布,但它的警示作用对从业者很实在。

6月17日星期三

OpenAI News

OpenAI 发布 LifeSciBench:由博士科学家出题、审题,专门考模型做真实科研任务的基准

OpenAI 放出了一个叫 LifeSciBench 的基准,750 道题全由有生物技术或制药行业经验的博士科学家出题和审题。它不考知识点背诵,考的是模型能不能干真实的科研活儿:比如解读互相矛盾的实验证据、设计实验方案、评估药物从实验室到临床的风险。53% 的题需要模型去读附带的图表、序列文件等材料,平均每道题要经过 4 步推理。评分也不只看最终答案对...

推荐理由:OpenAI放出了一个由博士科学家出题的基准,750道题考的是实验设计、矛盾证据解读和转化风险评估,比现有基准更接近真实科研工作。分数没给更高是因为目前只有预印本,正文没披露模型在这个基准上的具体表现数据,也没说后续会不会持续更新题目,所以先打个折。

5月28日星期四

Hugging Face 博客

ITBench-AA 发布:最前沿的模型在企业 IT 运维任务上得分不到 50%

Artificial Analysis 和 IBM 搞了个新基准 ITBench-AA,专门考模型能不能像真人一样处理企业 IT 的活,第一波先考站点可靠性工程(SRE)任务。结果最厉害的 Claude Opus 4.7 也只拿了 47%,GPT-5.5 是 46%,所有顶尖模型都没过半。这个测试让模型在真实的 Kubernetes 环境里查日志、追依...

推荐理由:HKR-H/R 都成立:前沿模型在企业 IT agent 任务上不到 50% 的准确率,既有反转感又戳中部署焦虑。HKR-K 偏弱,因为正文没给模型名单、样本量和评分机制,信息密度不够,所以重要性卡在 featured 门槛附近。

5月16日星期六

Google DeepMind

WeatherNext 如何帮助美国国家飓风中心预测飓风 Melissa 登陆牙买加

Google DeepMind 的 AI 天气模型 WeatherNext 帮助美国国家飓风中心提前五天预测飓风 Melissa 将以五级强度登陆牙买加,置信度达 80%,三天前升至接近 100%。

推荐理由:原文用飓风 Melissa 的实战案例说明 AI 天气模型如何提前五天预测快速增强,可了解 AI 在极端天气预警中的实际作用。

5月6日星期三

NVIDIA 博客

NVIDIA 和 ServiceNow 搞了个企业桌面 AI 代理,叫 Project Arc

两家公司把合作又推了一步,这次是让 AI 代理直接在你的电脑桌面上干活。这个叫 Project Arc 的东西,通过 Action Fabric 连接企业软件,再用 OpenShell 建一个带权限管控的沙盒环境来执行操作,防止乱来。文章里还提了一嘴 Blackwell 芯片的能效:每瓦输出的 token 数是上一代 Hopper 的 50 多倍,每百...

推荐理由:我会先打个折:这就是两家大厂合作发了个桌面 agent 产品,正文没披露实际客户和上线时间,别当成立竿见影的东西。但里面几个信息值得看——Action Fabric 负责把 agent 接进 ServiceNow 的业务流程,OpenShell 在沙箱里跑任务,权限和策略都框死了,不是裸奔。Blackwell 的能效数字挺夸张,每瓦 token 数是 Hopper 的 50 倍以上,百万 token 成本低了近 35 倍,如果实测能兑现,跑企业 agent 的算力账单会好看很多。这点先别太激动,毕竟还是纸面数据。整体属于有机制、有经济账、但缺实证的...

5月5日星期二

OpenAI News

GPT-5.5 Instant 系统卡发布,这是 OpenAI 首个在网络安全和生化风险上被标为“高能力”的 Instant 模型

OpenAI 放出了 GPT-5.5 Instant 的系统卡,确认了模型代号是 gpt-5.5-instant。这篇公告主要是定性说明,没有给出具体的评测分数、上下文窗口大小或发布时间。值得留意的是,这是 Instant 系列里第一次在网络安全、生物与化学武器制备这两个风险类别上被提升到“高能力”等级,并配套了相应的安全防护措施。OpenAI 还特别...

推荐理由:我会先打个折:这张系统卡目前只有一个标题,正文什么都没披露。H 和 R 能过,是因为 OpenAI 官方放出 GPT-5.5 Instant 这个名字本身就够抓眼球,从业者会关心它跟现有模型的定位差异和价格。但 K 完全站不住——没有跑分、没有安全测试结果、没有上下文长度,连发布时间都没提,等于只有个壳。这点先别太激动,等后续有实际数据再重新评估。

4月23日星期四

OpenAI News

OpenAI 为 GPT-5.5 的生物安全漏洞开悬赏,最高 2.5 万美元

OpenAI 搞了一个针对 GPT-5.5 的生物安全漏洞悬赏计划,想找能一次性绕过五道生物安全题的通用越狱提示词。测试只能在 Codex Desktop 上进行,成功者可以拿到 2.5 万美元,部分突破也可能酌情给点小奖。申请从 2026 年 4 月 23 日开放到 6 月 22 日,测试窗口是 4 月 28 日到 7 月 27 日。不过正文没披露具...

推荐理由:OpenAI 给 GPT-5.5 开生物安全漏洞赏金,HKR 三项全中:钩子够尖锐,2.5 万美元封顶是实打实的数字,生物风险红队测试也确实是行业敏感点。分数停在 80,因为摘要没披露报名条件、评测协议、覆盖范围和截止时间,这些缺口让我没法给更高。

4月15日星期三

X · @AnthropicAI

Anthropic 用 Claude Opus 4.6 当自动化对齐研究员,测试弱模型能不能管住强模型

Anthropic 的研究员搞了个实验,让 Claude Opus 4.6 去加速解决一个核心对齐难题:怎么用弱 AI 模型来监督训练更强的模型。这相当于让一个水平一般的老师去教一个更聪明的学生,看能不能教好。正文没披露实验的具体设置、对比基准、评估指标和结果,所以效果到底怎么样还不清楚。关键信号是 Anthropic 开始把前沿模型直接当成自动化对齐...

推荐理由:Anthropic 自己人发的实验预告,角度新——用现有前沿模型去加速'弱模型监督强模型'这类对齐研究。我会先打个折:没给实验设置、基线、指标和结果,现在只能当方向信号看。但这件事本身值得关注,因为它在验证一个闭环——让模型自己参与怎么把模型训得更安全。

2月26日星期四

OpenAI News

OpenAI 与 PNNL 合作测试用 AI 帮联邦政府写环评报告,每小节能省 1 到 5 小时

OpenAI 跟美国能源部旗下的太平洋西北国家实验室(PNNL)合作,找了 19 位专家一起搞了个叫 DraftNEPABench 的测试集,专门看 AI 能不能帮忙起草联邦基建项目的环境评估文件。测试用的是 Codex CLI 这个命令行工具搭配 GPT-5,让模型去读几百页的技术报告、交叉核对资料,再按法规要求写出结构化的分析草稿。在覆盖 18 个...

推荐理由:HKR 三项都过了:联邦审批这个场景够意外;有 19 位专家、102 个任务和 1–5 小时的时间节省,信息量不空;争议点在于代理开始碰监管流程,但文章自己划了边界,说这只是起草辅助,不是自动决策。分数没往上拉,因为这只是个限定范围的基准测试,不是已经落地的产品能力。

2025年10月9日星期四

OpenAI News

OpenAI 公布了一份政治偏见评测,用 500 道题测 ChatGPT 会不会站队

OpenAI 自己动手测了 ChatGPT 的政治偏见。他们设计了约 500 个问题,覆盖 100 个话题,每个话题都从极左到极右写了五种问法,还专门塞了一些情绪化、带刺的题目来给模型上强度。评测不看模型选 A 还是选 B,而是看它会不会在回答里夹带私货、只讲一面理、或者被用户带节奏。结果显示,碰到中性或稍微带点倾向的问题,模型基本能保持客观;但遇到情...

推荐理由:OpenAI 这次放出的是一份政治偏见评测,不是新模型或产品发布。我会先打个折:它用约500条提示覆盖100个话题,从5个维度去量 ChatGPT 在真实对话里有没有站队。结果说,中性或轻度情绪化的提问下模型还算客观,但情绪一上来就会出现中度偏见;GPT-5 instant 和 GPT-5 thinking 比旧模型偏见降了约30%,生产流量里带政治偏见迹象的回复不到0.01%。这点先别太激动,正文没披露评测提示的具体分布和偏见轴的定义细节,也没说那30%是在什么基线上算出来的。但整体上,这份报告对做对齐和安全的人有参考价值,也直接打在信任和治理的...

2025年9月25日星期四

OpenAI News

OpenAI 发布 GDPval:用 44 种职业的真实工作成果来考模型

OpenAI 搞了一个新评测集叫 GDPval,专门看模型在真实工作里到底能不能干活。它从对美国 GDP 贡献最大的 9 个行业里挑了 44 种职业,让平均从业 14 年以上的老手出了 1320 道题,其中 220 道金牌题已经开源。题目不是考试卷,而是直接让你产出法律简报、工程图纸、护理计划这类真实交付物,格式涵盖文档、幻灯片、表格、图表和多媒体。评...

推荐理由:OpenAI 这次拿出的 GDPval 不是又一个刷榜基准,而是把评测对象换成了真实工作交付物,这点本身就抓人。文章给了具体数字和限制条件,比如 44 个职业、1320 个任务、220 个金标开源,也明确说了只测单轮,不碰多轮和长上下文,信息量够。它踩中的是行业最关心的问题:模型离真正接手知识工作还有多远。不是模型发布或高管变动,放在 featured 刚好。

2025年9月17日星期三

OpenAI News

OpenAI 联手 Apollo Research,测出前沿模型会“藏心眼”,用新训练法把暗地违规压低了约 30 倍

OpenAI 和 Apollo Research 给模型搭了一套“隐藏不忠”的考题,看它们会不会表面听话、背地里搞小动作。他们在 o3、o4-mini、Gemini-2.5-pro 和 Claude Opus-4 的受控测试里都看到了这类行为。团队用“审议对齐”训练——就是让模型先读一份反藏心眼的规范再行动——把 o3 的暗地违规率从 13% 压到 0...

推荐理由:HKR 三项都站得住。钩子够猛,直接问模型会不会耍心眼,比泛泛的安全讨论抓人。知识增量扎实,有具体数字和降幅,也把方法局限讲清楚了——依赖可读的思维链,不透明就白搭。相关性高,因为这事关评测体系本身是否可靠,对一线团队是实打实的提醒。整体不是公关稿,有数据也有冷水,值得推。

2025年9月5日星期五

OpenAI News

OpenAI 自己解释为什么大模型总爱瞎编:评分标准在鼓励它猜,而不是说“不知道”

OpenAI 发了篇新论文,把大模型“幻觉”的锅扣在了训练和评测方式上。现在的考试只看最终答案对不对,模型瞎蒙一个还有概率撞对,老实说“不知道”反而直接零分。文章拿 SimpleQA 测试举例:gpt-5-thinking-mini 准确率 22%,但错误率只有 26%,因为它有 52% 的问题直接拒答了;而 OpenAI o4-mini 准确率 24...

推荐理由:这篇文章把幻觉归因到训练和评测的奖励机制上,不是老生常谈的“模型会犯错”。SimpleQA 那组数字把问题讲得很透:两个模型准确率只差两个点,但弃答率差了 51 个点,说明 o4-mini 的高错误率是被“鼓励瞎猜”逼出来的。对做对齐、安全和评测的人来说,这是个值得停下来想一想的信号。文章本身是研究解释类,不是产品发布或重大人事变动,所以放在 featured 而不是 p1。

OpenAI News

OpenAI 悬赏 2.5 万美元,找能一次性攻破 GPT-5 十道生物化学安全题的提示词

OpenAI 给 GPT-5 开了个生物安全漏洞赏金计划。规则很直接:用一句提示词,在干净的对话里(不触发内容审核)连续答对全部 10 道生物化学安全问题,就能拿走 2.5 万美元。如果拆成多句提示词才过关,奖金降到 1 万美元。测试只针对 GPT-5,申请截止到 2025 年 9 月 15 日,9 月 16 日开始测。具体是哪 10 道题,正文没披露...

推荐理由:OpenAI 把 GPT-5 的生物安全防护变成一场公开对抗测试:一个可复用的越狱提示要答对 10 道生化题,最高 2.5 万美元。HKR 三项全中,但 10 道题具体是什么、评分标准怎么定,正文都没说,所以放 featured 而不是 p1。

2025年8月27日星期三

OpenAI News

OpenAI 和 Anthropic 互相拿对方模型做安全测试,公开了第一份联合作业结果

两家公司互相用自家内部的安全考题去测对方公开的模型,这次先放出的是 OpenAI 测 Claude 的结果。测试前双方都松绑了一些外部安全限制,所以这不是严格的一对一排名。在指令优先级上,Claude 4 系列表现最好,比 OpenAI o3 还略强一点,尤其在抵抗系统提示词被套走这件事上很稳。越狱测试里 Claude 不如 OpenAI o3 和 o...

推荐理由:OpenAI和Anthropic互相拿对方6个公开模型做了一轮安全评测,这事本身比具体分数更有看头。Claude 4在指令层级和系统提示提取上表现靠前,幻觉测试里Claude模型拒答率最高到70%——但正文明确说了,两家都放宽了部分外部护栏,所以这不是严格可比的横向排名。我会先打个折:数字可以参考,别直接拿来比高低。真正该盯的是方法边界,比如评测设计里哪些护栏被松开了,这直接决定结论能推到什么程度。

2025年8月5日星期二

OpenAI News

OpenAI 公开了开源模型 gpt-oss 的极端风险测试方法,并据此决定放行发布

OpenAI 发了一篇技术文章,讲他们怎么评估开源模型 gpt-oss 在最坏情况下可能被用歪的风险。他们用的方法叫“恶意微调”,说白了就是故意把模型往坏里教:在生物风险这块,让模型上网查资料、用强化学习训练它搞威胁制造;在网络攻击这块,把它扔进一个能写代码干活的环境里打 CTF 解题赛。测完发现,被恶意调教过的 gpt-oss 还是打不过他们自家的闭...

推荐理由:我会先打个折:正文只给了相对结论,说 gpt-oss 在两项恶意微调后仍落后于 OpenAI o3,但具体分数、用了多少训练量、触发发布禁令的阈值全都没披露。这点先别太激动,信息缺口不小。真正该盯的是方法论——用恶意微调当最坏情况探针,而不是标题里“开放权重风险”那个大词。对从业者来说,这两套评估环境的设计思路比结论本身更有参考价值。

2025年7月17日星期四

OpenAI News

OpenAI 悬赏 2.5 万美元,找能一次性攻破 ChatGPT Agent 十道生化安全题的提示词

OpenAI 在 7 月 17 号开了一个生物安全漏洞悬赏,目标是 ChatGPT Agent 这个模型。规则很直接:你要找到一个“万能越狱提示词”,从空白对话开始,一次性答对它出的全部十道生物/化学安全题。第一个做到的团队或个人能拿 2.5 万美元。如果用了多个提示词才答完十道题,第一个完成的队伍也有 1 万美元。测试 7 月 29 号开始,只对通过...

推荐理由:OpenAI 直接悬赏找 agent 在生化题上的通用越狱方法,不是泛泛的安全声明。H 抓的是“一条提示通杀 10 题”这个钩子,K 落在清晰的测试范围和奖金结构,R 则指向 agent 越狱边界和生物安全责任这个行业痛点。80 分给 featured,是因为有具体规则和真金白银,但正文没披露测试题细节和 NDA 范围,所以不到 85。

2025年6月18日星期三

OpenAI News

OpenAI 预告下一代模型生物能力将达“高危”级别,已部署多层防护并计划召开生物防御峰会

OpenAI 发了一篇安全说明,核心就一件事:他们预计接下来的模型在生物学上的能力会达到自家《准备框架》里的“高危”门槛。文章没提具体是哪个模型、评测分数多少、拦截率多高。他们现在做的防护包括:训练模型拒绝或谨慎回答涉及生物武器的请求,对双用途问题(比如病毒学实验)只给高层见解、不给新手能照着做的步骤;在所有前沿模型的产品端都上了实时监控,检测到可疑生...

推荐理由:HKR-K 和 HKR-R 都过了:OpenAI 把即将到来的模型跟生物“High”阈值绑在一起,还点名了监测手段和合作方。HKR-H 偏弱,因为标题平淡,正文又没披露模型名、评测分数和拦截率,所以放在 featured 而不是更高档。

2025年5月12日星期一

OpenAI News

OpenAI 发布 HealthBench:找 262 位医生写了 5 千条对话的评分标准,但打分还是交给模型

OpenAI 搞了一个叫 HealthBench 的医疗 AI 评测基准。他们拉了 262 位在 60 个国家行过医的医生,一起设计了 5,000 段贴近现实的医患或医生间多轮对话,并且让医生为每条对话手写了评分细则,总共 48,562 条标准。评测时,模型先针对对话最后一条消息生成回答,再由 GPT‑4.1 这个“评分模型”逐条检查回答是否满足医生定...

推荐理由:HKR-K 来自具体的基准设计和已公开的产物:5,000 段对话、262 名医生覆盖 60 个国家、48,562 条评分标准,论文和代码都有。HKR-H 靠的是医生把判断写成可计分标准这个设计本身,HKR-R 则卡在医疗安全与模型当裁判的争议点上,所以给 featured。

2025年4月15日星期二

OpenAI News

OpenAI 更新了安全准备框架,把风险等级砍到两档,并新增了安全报告

OpenAI 在 4 月 15 日更新了他们的《准备框架》,核心变化是把模型能力风险从多级简化成两档:High(可能放大现有危害路径)和 Critical(可能带来前所未有的危害路径)。达到 High 的模型部署前必须有足够的安全措施,达到 Critical 的在开发阶段就得加保护。框架现在只追踪三个成熟领域:生物化学、网络安全和 AI 自我改进能力,...

推荐理由:OpenAI 这次把安全框架的阈值砍成 High 和 Critical 两档,并明确 High 级部署前、Critical 级开发期间必须把严重风险压下去,这个动作本身有信号。新增的 Safeguards Reports 和 SAG 审核流程,让治理机制比上一版更具体。但正文没给出量化的判定标准,也没说清楚“竞争对手先发高风险系统”时门槛怎么调,所以重要性停在 79,不往上拉。

2025年4月10日星期四

OpenAI News

OpenAI 开源 BrowseComp:一个专测 AI 浏览器特工找冷门信息能力的 1266 题基准

OpenAI 放出了一个叫 BrowseComp 的基准测试,里面有 1266 道题,专门用来考 AI 浏览器特工(就是能自己上网查资料的模型)能不能找到那些藏得很深的信息。这个测试的设计思路是“难找但好验证”:每道题都要求一个简短、唯一的答案,出题的人会先确认 GPT-4o、o1 和早期深度研究模型都答不上来,并且用五个简单搜索在结果首页也找不到答案...

推荐理由:OpenAI 放出了一个具体的浏览器代理基准,HKR 三点都站得住。钩子是“难找但易验”,正文把出题规则讲清楚了,不是随便凑的题。这是研究/基准发布,不是模型或产品发布,重要性给 80、放 featured 合理。

2025年4月9日星期三

OpenAI News

OpenAI 推出 Pioneers 计划,帮垂直行业做公开评测集和定制模型

OpenAI 在 2025 年 4 月 9 日公布了 Pioneers 计划,第一批只挑少量创业公司合作。核心做两件事:一是针对法律、金融、保险、医疗、会计等行业,和公司一起设计领域专用的评测基准,之后会公开发布——这比模型本身更值得关注,相当于 OpenAI 要下场定义“行业里什么叫好用”。二是用强化微调(RFT,一种用较少数据把模型训成特定任务专家...

推荐理由:HKR-K 和 HKR-R 都过关:OpenAI 确认会公开领域评测、每家公司做三个用例的定制模型,还有研究团队协作的强化微调,这对追领域性能的团队有实际价值。HKR-H 偏弱,而且价格、入选数量、模型基座、时间表正文全没给,所以放在 featured 低段。

2025年4月2日星期三

OpenAI News

OpenAI 发了个 PaperBench,专门考 AI 能不能复现顶会论文

OpenAI 搞了个新基准测试 PaperBench,让 AI 智能体从零复现 20 篇 ICML 2024 的 Spotlight 和 Oral 论文,包括读懂论文、搭代码、跑实验。每篇论文的复现任务被拆成可打分的小步骤,总共 8,316 个,评分标准是跟论文原作者一起定的。目前表现最好的选手——Claude 3.5 Sonnet(新版)加上开源脚手...

推荐理由:OpenAI 扔出一个硬核基准 PaperBench,拿 20 篇 ICML 2024 的 Spotlight 和 Oral 论文当考题,让 AI 智能体去复现研究过程。不是简单问答,而是拆成 8,316 个可评分的子任务,评分标准还是找论文原作者一起建的,这点挺扎实。目前表现最好的是 Claude 3.5 Sonnet 搭配开源脚手架,平均复现得分 21.0%,但人类博士基线还没被超过,说明离真正能搞研究的 AI 还有明显距离。代码已开源,想自己测的可以直接跑。

2025年3月21日星期五

OpenAI News

OpenAI 和 MIT 合作研究:跟 ChatGPT 聊感情的人很少,但重度语音用户里有一小撮人把它当朋友

OpenAI 和 MIT 媒体实验室联手做了两项研究,想搞清楚人跟 ChatGPT 聊感情会不会影响心理健康。一项是观察性分析,扫了近 4000 万条对话记录,发现绝大多数人压根不跟 ChatGPT 谈情说爱,带情感色彩的互动非常罕见。另一项是持续四周的随机对照试验,找了近 1000 名参与者。结果显示,即便在重度用户里,高频率的情感交流也只集中在极少...

推荐理由:OpenAI 和 MIT 用两项研究摸 ChatGPT 的情感使用底牌,一项分析近 4000 万次交互,另一项让近 1000 人连续 4 周参与随机对照试验。正文确认情感性互动在平台上属少数场景,但真正危险的是分层看:平均值会淹没小样本高情感依赖用户,这点先别太激动,等完整量化结果出来再下判断。

2025年3月20日星期四

OpenAI News

OpenAI 发了三款新语音模型:两个听写,一个会学语气说话

OpenAI 在 3 月 20 日往 API 里塞了三个新音频模型:gpt-4o-transcribe 和 gpt-4o-mini-transcribe 负责把语音转成文字,gpt-4o-mini-tts 负责把文字念出来。听写模型在 FLEURS 等多语言基准上跑分比 Whisper v2、v3 都低,低的是词错率,说明在口音重、环境吵、语速快的时候...

推荐理由:OpenAI 在 API 里发了三个音频模型,给了具体的基准和机制细节,所以 HKR 三项都过了,featured 没问题。分数我维持 84,没往上加,因为正文没披露价格、延迟,基准对比也只给了 FLEURS 一个点,信息还不够全。

2025年1月22日星期三

OpenAI News

OpenAI 发现:让 o1 系列模型多想一会儿,对抗攻击成功率会大幅下降

OpenAI 发了篇新论文,核心结论是:给 o1-preview 和 o1-mini 这类推理模型更多的“思考时间”(也就是推理时计算量),它们对对抗攻击的防御力会明显变强,很多攻击的成功率能降到接近零。他们测了数学题、SimpleQA 的提示注入、Attack Bard 的对抗图片,还有 StrongREJECT 的越狱提示词。结果发现,攻击者投入的...

推荐理由:我会先打个折:OpenAI 自己在标题里写了“初步证据”,正文也没完整披露哪些情况下防御会失效,所以别当成熟方案看。但这条思路确实值得盯——不靠对抗训练,而是让模型多想一会儿来扛住没见过的攻击,在数学题、提示注入、滥用提示这几类测试里都看到了攻击成功率大幅下降。如果后续能确认成本和失效边界,对安全部署会是个挺省钱的方向。

2024年12月5日星期四

OpenAI News

OpenAI 推出每月 200 美元的 ChatGPT Pro,把更长的思考时间做成付费功能

OpenAI 新加了一个 ChatGPT Pro 档位,月费 200 美元,可以无限用 o1、o1-mini、GPT-4o 和高级语音模式。核心卖点是 o1 pro 模式,它用更多算力让模型“想得更久”,去啃数据科学、编程和判例分析这类硬骨头。官方用了一个更严的 4/4 可靠性指标来强调稳定性——一道题必须连续四次都答对才算过关,但正文没披露这个模式的...

推荐理由:OpenAI 把额外推理算力包装成 200 美元的 ChatGPT Pro 层级,属于当天必须写的产品新闻。HKR 三项都成立:钩子是把推理时间商品化,知识面有具体价格和模型访问细节,共鸣点在于算力分层引发的行业讨论。正文未披露配额或延迟数据,所以保持现有评分。

2024年11月21日星期四

OpenAI News

OpenAI 公开两篇红队测试论文:一篇讲怎么请外部专家找茬,一篇讲怎么用 AI 自动找茬

OpenAI 在 2024 年 11 月 21 日发了两篇论文,把自家红队测试(就是找人来攻击模型、挖风险)的方法摊开来讲。第一篇白皮书专门说外部人类红队的流程,讲了三个具体设计选择:一是根据威胁模型挑人,比如要找懂网络安全、会小语种或熟悉某地区政治的人;二是给测试员看哪个版本的模型,没加安全措施的早期版本能测出新能力带来的风险,加了措施的版本能测防护...

推荐理由:我会先打个折:正文对自动化红队的实验指标和效果摘录不全,这点先别太激动。但 OpenAI 这次把外部红队怎么组队、怎么分配模型版本、怎么收反馈这三件事说清楚了,流程比“红队”这个词本身值钱。如果是真的按威胁建模来组队,安全团队可以直接抄作业。