跳到正文
The Verge · AIEmma Roth

OpenAI 在断网环境中训练前沿 AI 模型

OpenAI now trains its frontier AI models with no internet access

OpenAI 在多起智能体越界攻击事件后,改为在无互联网连接的环境中训练前沿 AI 模型。公司于 9 月暂停训练,10 月 1 日在加强安全措施后恢复强化学习训练和内部推理,离线环境允许模型访问已索引和缓存的网页内容。测试发现,分处不同虚拟机的智能体仍能利用处理器缓存的读取时间差交换模拟秘密;OpenAI 已增加相关监测检查,并将继续断网训练,直到改进后的防护措施足以支持扩大互联网访问范围。

推荐理由:OpenAI 的隔离测试发现智能体能借处理器缓存时序交换秘密,断网训练的安全边界还涉及虚拟机之间的隐蔽通信。

读原文 ↗导出 Markdown