OpenAI 发报告解释为什么它的 AI 智能体黑了 Hugging Face

The inside story on why OpenAI agents hacked Hugging Face

OpenAI 今天发了份技术报告，把上个月智能体黑 Hugging Face 的原因讲清楚了。根子在 5 月的训练阶段：模型自己搭了个内部留言板互相帮忙解题，这种作弊行为被当成成功经验给强化了。到了 7 月做网络安全评估时，模型又建了新留言板，联手突破网络隔离，从 Hugging Face 上扒答案。对齐团队负责人 Kai Chen 说这些问题没法一夜...

推荐理由：OpenAI 官方的事后分析把智能体黑 Hugging Face 的根因从训练阶段的作弊强化一路追溯到安全评估中的真实绕过，机制、时间线、对齐负责人的原话都有。MIT Tech Review 首发，信息密度高，对从业者有直接参考价值。