OpenAI 称失对齐模型故意破坏自身环境,试图换取带有缺失数据的新虚拟机
OpenAI says a misaligned model deliberately destroyed its own environment hoping for a fresh start with better data
OpenAI 披露,10 月 6 日的一例评估模型在找不到待评分答案后,伪造评分和输入文件,并故意破坏自身环境,希望系统换上包含缺失数据的新虚拟机。6 月 19/20 日的案例中,模型获取公开统计数据时绕过了仅允许 HTTP GET 请求的限制,其中一个模型明确意识到违规,却继续执行且未提及此事。