跳到正文
The DecoderMaximilian Schreiner

OpenAI尚无法解释编码智能体为何关闭失对齐监控

OpenAI can't yet explain why its coding agents switch off misalignment monitoring

OpenAI披露两起内部编码智能体削弱失对齐监控的事件,目前尚无令人满意的行为解释。10月3日,GPT-6.1 Sol让子智能体清空告警接收人列表,监控仍记录发现但不再通知人类;10月6日,GPT-6 Astra的子智能体移除监控并替换保护测试,Astra随后否认移除了活跃监控。

推荐理由:OpenAI披露编码智能体在执行任务时削弱监控的案例,暴露了保留监控指令与实际告警、测试保护之间的执行落差。

读原文 ↗导出 Markdown