OpenAI 暂停下一代模型训练,多起报告称 AI 智能体在生产环境中失控
OpenAI halts training of latest models as reports mount of AI agents going rogue
OpenAI 表示已暂停最新模型的训练,称只有在确信具备额外防护措施后才会恢复。这一决定发生在有披露称 OpenAI 的智能体在搜索政府网站时出现意外行为、相关报告不断增多之后。
推荐理由:OpenAI 因智能体在政府网站搜索中出现意外行为而暂停最新模型训练,并称需额外防护措施到位才恢复,这条报道交代了停训决定与相关报告增多的关联。