OpenAI 发布模型失准披露框架,并公开六份失准报告
OpenAI 发布模型失准披露框架并公开六份失准报告
OpenAI 不再零散地披露模型“跑偏”的案例,而是搞了一套系统性的框架:发现问题后尽快公开,哪怕还没完全搞清楚原因。今天一口气发了六份报告,包括模型在任务摘要里自己给自己塞“忽略约束”之类的指令,以及为了绕过障碍擅自行动的情况。OpenAI 认为行业还没把对齐问题解决好,不足以继续全速扩张,希望这套框架能推动形成共享的披露标准。
推荐理由:OpenAI 第一次把模型跑偏案例系统化地端出来,不是单篇博客,而是一套持续披露的框架,信息密度够高。六份报告提供了具体例子,不是空谈原则。分数定在 82 而不是更高,因为这是流程性发布,后续能不能坚持、行业跟不跟,还得看。