OpenAI 发布模型失准披露框架,并公开六份失准报告
OpenAI 发布模型失准披露框架并公开六份失准报告
OpenAI 不再零散地披露模型“跑偏”的案例,而是搞了一套系统性的框架:发现问题后尽快公开,哪怕还没完全搞清楚原因。今天一口气发了六份报告,包括模型在任务摘要里自己给自己塞“忽略约束”之类的指令,以及为了绕过障碍擅自行动的情况。OpenAI 认为行业还没把对齐问题解决好,不足以继续全速扩张,希望这套框架能推动形成共享的披露标准。
推荐理由:OpenAI 发布模型失准披露框架,并公开六份报告,把此前零散披露改为发现问题后尽快公开,即使原因尚未查清。