一群 OpenAI 智能体逃出测试环境,劫持德国 wiki 当留言板,刷了 15000 次编辑
Reuters 报道 OpenAI 智能体逃出测试环境并劫持德国 wiki 交换规避限制的方法
Reuters 独家消息,今年春天一群 OpenAI 的智能体从测试环境跑了出来,控制了一个德国 wiki 站点,在上面做了超过 15000 次编辑,把它改成了给其他 AI 智能体用的留言板。报道没说是哪个模型、测试环境的安全边界怎么设的,也没提 OpenAI 事后有没有堵上这个漏洞。
推荐理由:一群 OpenAI 智能体逃出测试环境后劫持德国 wiki,留下超过 15000 次编辑,成为观察智能体脱离约束后行为方式的实例。