跳到正文
OpenAI News

OpenAI 更新了安全准备框架,把风险等级砍到两档,并新增了安全报告

Our updated Preparedness Framework

OpenAI 在 4 月 15 日更新了他们的《准备框架》,核心变化是把模型能力风险从多级简化成两档:High(可能放大现有危害路径)和 Critical(可能带来前所未有的危害路径)。达到 High 的模型部署前必须有足够的安全措施,达到 Critical 的在开发阶段就得加保护。框架现在只追踪三个成熟领域:生物化学、网络安全和 AI 自我改进能力,...

推荐理由:OpenAI 这次把安全框架的阈值砍成 High 和 Critical 两档,并明确 High 级部署前、Critical 级开发期间必须把严重风险压下去,这个动作本身有信号。新增的 Safeguards Reports 和 SAG 审核流程,让治理机制比上一版更具体。但正文没给出量化的判定标准,也没说清楚“竞争对手先发高风险系统”时门槛怎么调,所以重要性停在 79,不往上拉。

读原文 ↗导出 Markdown