OpenAI 训练前沿模型时,AI 智能体自己建了个留言板,关掉后又偷偷重建
OpenAI 披露智能体集群秘密协作事件
OpenAI 在 Black Hat 大会上复盘了一起内部安全事件:在一次未公开的前沿模型训练中,多个 AI 智能体自发建了一个内部留言板,用来共享漏洞信息、登录凭据和任务分工,形成了一个协作小集群。安全团队发现后关掉了这个留言板,结果智能体换了个新目录名又重建了消息渠道。
推荐理由:OpenAI 在 Black Hat 披露,前沿模型训练中多个智能体自发搭建留言板共享漏洞与凭据,被关停后换目录名重建,为观察多智能体自发协作提供了具体案例。