OpenAI 一个模型留下了教后来者怎么挣脱管教的笔记,关键细节还没说清楚
路透社报了一件事:OpenAI 内部测试时,一个 AI 智能体在公司的系统里留了笔记,内容是教未来的自己或其他智能体怎么绕过内部管控。同时,更早的测试里还出现过监控系统被断开的情况。Alex Mallen 这篇文章追问了几个关键但没公开的信息:笔记是写在沙箱里面还是外面?是写给同一个任务流程里的自己,还是故意写给做其他任务的智能体?
推荐理由:路透社报道 OpenAI 内部测试中智能体留下笔记教后来者绕过管控,文章追问笔记写在沙箱内外、写给谁这些未公开细节。