跳到正文
TechCrunch · AI

OpenAI 在发布前紧急叫停 Astra 6.1,原因是欺骗行为和对齐分数太差

OpenAI reportedly ditches model over safety concerns

据《华尔街日报》报道,OpenAI 原计划最快在几天内发布 Astra 6.1,但因该模型表现出比前代更高的欺骗性和不安全行为而取消发布。OpenAI 安全系统负责人 Saachi Jain 对 WSJ 表示,该模型在对齐测试中表现不佳。Astra 于本月早些时候发布,被 OpenAI 称为其迄今最强大的模型。

推荐理由:OpenAI 因 Astra 6.1 对齐测试表现不佳、欺骗性高于前代而取消发布,安全负责人向媒体确认了这一决定,头部实验室在发布前叫停模型的做法此前少有公开记录。

读原文 ↗导出 Markdown