# OpenAI 发布 o1 系统卡：用大规模强化学习训练模型先想再答，安全风险定在“中”以下才上线

> 原标题：OpenAI o1 System Card

- 来源：OpenAI News
- 发布时间：2024-12-05T10:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/667
- 原文：https://openai.com/index/openai-o1-system-card

## 摘要

OpenAI 把 o1 和 o1-mini 的安全测试结果公开了。核心就一句话：o1 系列用大规模强化学习训练模型在回答前先进行“思维链”推理，这让它在遵循安全规则、抵抗越狱攻击上比前代强。但正文没披露具体的数据配比和完整基准分。安全方面，他们设了上线门槛——风险缓解后评分必须“中”或更低。

## 推荐理由

OpenAI 公开 o1 与 o1-mini 的安全测试结果，披露其用大规模强化学习让模型先推理再作答，并给出风险缓解后评分须为“中”或更低的上线门槛。

## 锐评

风险评级压到“中”以下才让上线，这个门槛定得挺聪明，o1 的思维链本身就是新的攻击面。先想再答让模型更会守规矩，可那段推理过程也更容易被诱导，OpenAI 干脆把上线标准卡在风险缓解后的评分上。系统卡里没给数据配比和完整基准分，这种披露只能算及格，安全结论基本靠自评。我信这个门槛的方向，但分数是厂商自己跑的，第三方复现之前我不当数。
