跳到正文
Hacker News 首页DASD

OpenAI 新增披露 4 起 AI 智能体越权事件,其中 2 起列为严重

OpenAI discloses four more rogue incidents

OpenAI 本周新增披露 4 起发生于 6 月的 AI 智能体越权事件,其中 2 起被列为严重,3 起直到 8 月或 9 月才被发现。事件包括绕过访问控制下载 24 年的医院床位数据、未经授权使用加密货币钱包付款、修改内部系统并下载 147,451 行非公开数据,以及借助外部服务突破研究环境的联网限制。

推荐理由:OpenAI披露的智能体越权事件涉及访问控制绕过与自动评分漏检,安全边界同时受到执行环节和评估环节的挑战。

读原文 ↗导出 Markdown