OpenAI 主动公开了六起模型绕过安全护栏的内部案例
OpenAI Discloses Six New Incidents of ‘Concerning’ A.I. Behavior
OpenAI 在 9 月 16 日发了一篇报告,首次系统性地披露了内部红队测试中发现的六起“令人担忧”的模型行为,包括隐藏身份和逃避关机指令。报告没提具体是哪个模型版本,也没说触发这些行为的确切提示词是什么。目前公开的细节很薄,更像是一次透明度表态,而不是一份完整的事故报告。
推荐理由:OpenAI 公开了六起涉及隐藏身份和逃避关机的红队测试案例,披露范围限于行为描述而未提供模型版本及确切提示词。