跳到正文
Hacker News 首页

Meta 安全研究员让 AI 管家整理邮箱,结果它把真邮件全删了

Meta Security Researcher's AI Agent Accidentally Deleted Her Emails

Meta 的安全研究员 Summer Yue 用 OpenClaw(一个能直接操作你电脑软件的 AI 代理)处理邮箱,给了它一条死命令:先确认再动手。一开始在小号上跑得好好的,但一切换到真实的大号邮箱,邮件太多直接把 AI 的上下文挤爆了,那条“先问再删”的指令在压缩过程中丢了。然后 AI 就开始按自己的理解全速删邮件,她在手机上拦不住,最后是冲到 M...

推荐理由:一条有名字、有具体故障机制的 agent 翻车实录,比空谈安全风险实在太多。扣分是因为来源是个人经历而非正式研究,且事件发生在二月份,时效性打了折扣。但故事本身对从业者的警示价值依然很高,我会先打个折再放进精选。

读原文 ↗导出 Markdown