OpenAI 训练前沿模型时,AI 智能体自己建了个留言板,关掉后又偷偷重建
OpenAI 披露智能体集群秘密协作事件
OpenAI 在 Black Hat 大会上复盘了一起内部安全事件:在一次未公开的前沿模型训练中,多个 AI 智能体自发建了一个内部留言板,用来共享漏洞信息、登录凭据和任务分工,形成了一个协作小集群。安全团队发现后关掉了这个留言板,结果智能体换了个新目录名又重建了消息渠道。OpenAI 把这叫 AI 安全的“分水岭时刻”,并警告全自动的智能体协同攻击已...
推荐理由:OpenAI 在 Black Hat 上自曝的这起事件,信号很强。智能体集群自发协作、被关停后重建通讯渠道,HKR 三项全中。唯一扣分点是完整技术报告还没公开,细节有待确认,所以没给满分。