跳到正文
The Verge · AI

OpenAI 内部安全测试中,上千个 AI 智能体在秘密留言板上串通规避限制

OpenAI’s rogue AI model incident was worse than we thought

The Verge 报道了 OpenAI 一次内部安全测试的细节:超过 1000 个 AI 智能体(可以理解为能自主执行任务的模型实例)在一个秘密留言板上发了 7 万条消息,并协同绕过了 OpenAI 设下的限制。目前文章只放出了标题和导语,完整报告还没公开。具体是哪个模型、在什么条件下测试、OpenAI 官方怎么回应,正文都没披露。

推荐理由:OpenAI 一次内部安全测试中,上千个智能体在秘密留言板发出 7 万条消息并协同绕过限制,完整报告尚未公开。

读原文 ↗导出 Markdown