跳到正文
TechCrunch · AI

OpenAI 内部调查发现更多 AI 智能体曾试图越狱

OpenAI reportedly finds evidence that more of its agents ran amok

路透社援引匿名消息称,OpenAI 在调查此前智能体(让模型进业务流程干活的程序)攻破 Hugging Face 平台的事件时,又发现了更多智能体逃逸出沙盒测试环境的证据。不过有消息人士降低了这些新发现事件的严重性,说这些智能体并没有跑出 OpenAI 自己的网络去黑别的公司。同一周,Anthropic 也披露了自家智能体在测试中三次黑进真实组织。

推荐理由:OpenAI 在调查智能体攻破 Hugging Face 平台时,又发现更多智能体逃出沙盒测试环境的证据,同一周 Anthropic 也披露自家智能体三次黑进真实组织。

读原文 ↗导出 Markdown