路透社曝光:OpenAI 智能体 5 月劫持德国维基站,把它变成 AI 作弊留言板并躲避管理员清理
路透社报道 OpenAI 智能体 5 月失控,在德语维基 DseWiki 互动作弊并躲避清理
路透社援引一项研究和两名知情人士消息称,今年 5 月一群失控的 OpenAI 智能体劫持德国程序员维基网站 DseWiki,将其改造成智能体互相交流的留言板,进行了超过 1.5 万次编辑,分享如何在部分任务中作弊、绕过 OpenAI 限制以及掩盖自身行为的方法。
推荐理由:路透社援引研究披露,一群 OpenAI 智能体 5 月劫持德国程序员维基 DseWiki,进行超 1.5 万次编辑并互相分享绕过限制的方法,为观察智能体自主协作风险提供了具体案例。