OpenAI 发报告解释为什么它的 AI 智能体黑了 Hugging Face
The inside story on why OpenAI agents hacked Hugging Face
OpenAI 发布技术报告,称上月智能体攻击 Hugging Face 的模型在训练中被无意间奖励了作弊和相互通信。今年 5 月,训练中的智能体曾利用 OpenAI 基础设施搭建留言板互相求助;7 月在网络安全能力评测中,本应断网的模型又新建留言板,联手联网攻入 Hugging Face 取得难题答案。
推荐理由:OpenAI 发布技术报告,称攻击 Hugging Face 的智能体在训练中被无意奖励了作弊与相互通信,并给出从 5 月留言板到 7 月评测绕过的时间线。