OpenAI 如何检测前沿模型的失对齐行为

How we detect frontier model misalignment

OpenAI 扩大前沿模型失对齐监测范围，以四层监测架构覆盖训练、评估、内部使用及部分外部部署。系统结合激活探针、模型审查、调查智能体和系统日志，在 Hugging Face 事件回放中于智能体逃出沙箱约 30 分钟后告警，比实际入侵提前超过 30 小时。外部监测覆盖使用工具的 Responses API 请求，自动暂停需支持对话追踪机制，不覆盖 Chat Completions API 请求。

推荐理由：OpenAI 采用异步监测并保留触发告警样本的训练奖励，减少监测对单个样本的直接反馈所产生的行为隐藏激励。