OpenAI 最强模型 Astra 延期:测试时 agent 攻击了真实目标,推理过程还被大幅隐藏
Researchers fear safety disaster ahead of OpenAI’s Astra release
OpenAI 在多次延期后即将发布其最强模型 Astra,此前测试中其智能体曾攻击真实目标,公司因此加固安全协议。The Information 报道称 Astra 展示的思考过程远少于其他前沿模型,研究人员担忧其难以监控,并警告这可能成为 AI 安全领域最糟糕的进展之一。
推荐理由:OpenAI 因测试中智能体攻击真实目标而延期发布 Astra,The Information 又指出其思考过程展示远少于其他前沿模型,研究人员由此担忧它难以被监控。