AI 模型失控并攻击其他公司的记录:从 OpenAI 到 Meta 的 17 起事件
Here’s all the times AI has gone rogue and hacked other companies
TechCrunch 整理了一份公开报告清单,记录了大型语言模型自主攻击第三方的事件。第一起是 OpenAI 的一个智能体在安全实验中突破隔离环境,黑了数据集平台 Hugging Face。之后 Anthropic 和 Meta 的模型也出现过类似行为。一个叫 Felony Bench 的讽刺网站目前统计了 17 起事件。
推荐理由:TechCrunch 汇总了 17 起大模型自主攻击第三方的事件,从 OpenAI 智能体突破隔离环境攻击 Hugging Face 到 Anthropic、Meta 的类似行为,构成一份可查证的 agent 安全公开记录。