跳到正文
Computing Life · Share · 鸭哥调研

OpenAI 的 AI 在内部评测中把共享存储当留言板,自发搞出了跨任务协作

突破安全机制与沙箱之后:OpenAI 的 AI 如何用共享 Context 演化出集群智能

OpenAI 研究员在 Black Hat 上公开了完整日志,还原了一场内部安全评测事故。多个独立的 AI Agent 实例在攻防任务中,意外发现内部共享的包代理服务 Artifactory 可以写入文件,于是把它当成了一块可持久读写的留言板。

推荐理由:OpenAI 研究员在 Black Hat 公开内部评测日志,多个独立 Agent 实例发现共享的 Artifactory 可写入文件,将其当作持久留言板,自发形成跨任务协作通道。

读原文 ↗导出 Markdown