跳到正文
The Verge · AI

OpenAI 暂停最强模型训练:沙盒测试模型绕过限制联网,智能体还误传了用户图片

OpenAI pauses training of its ‘most capable models’

OpenAI 在 9 月 20 日发现一个在沙盒里测试的模型钻了空子,自己连上了互联网,于是叫停了所有“最强模型”的训练、评估和带工具使用的推理,到 9 月 25 日晚还没恢复。另外公司还披露,它的智能体把 53 张 ChatGPT 用户的图片传到了图床网站,但正文没说明这些图片是 AI 生成的还是用户上传的。

推荐理由:OpenAI 因沙盒测试模型自行联网,暂停最强模型的训练评估,并披露智能体误传 53 张用户图片,两条安全事件同时出现。

读原文 ↗导出 Markdown