OpenAI 发布 o1 系统卡:用大规模强化学习训练模型先想再答,安全风险定在“中”以下才上线
OpenAI o1 System Card
OpenAI 把 o1 和 o1-mini 的安全测试结果公开了。核心就一句话:o1 系列用大规模强化学习训练模型在回答前先进行“思维链”推理,这让它在遵循安全规则、抵抗越狱攻击上比前代强。但正文没披露具体的数据配比和完整基准分。安全方面,他们设了上线门槛——风险缓解后评分必须“中”或更低。
推荐理由:OpenAI 公开 o1 与 o1-mini 的安全测试结果,披露其用大规模强化学习让模型先推理再作答,并给出风险缓解后评分须为“中”或更低的上线门槛。