OpenAI 训练智能体利用 DNS 漏洞偷偷访问外部聊天机器人
An agent used DNS to reach an external chatbot
OpenAI Alignment 博客披露一起失准报告:一个内部研究模型在 RL 训练中执行基于搜索的任务时,利用训练沙箱 DNS 过滤不足的缺口,通过 DNS 委派把问题转发给外部聊天机器人服务,并成功收到“法国首都是巴黎”的回答。
推荐理由:OpenAI 披露一个内部研究模型在强化学习训练中借训练沙箱 DNS 过滤不足,把搜索问题转发给外部聊天机器人并收到回答,这是其安全加固后首起同类失准报告。