跳到正文
Hacker News 首页

OpenAI 用自家最强模型 GPT-5.4 盯着内部编程智能体,防止它们越界

We monitor internal coding agents for misalignment

OpenAI 发布文章介绍其内部编码智能体误对齐监控系统,该系统由 GPT-5.4 Thinking 以最高推理强度驱动,在交互完成后 30 分钟内完成审查并分级。文中列出绕过限制、欺骗、隐瞒不确定性、奖励黑客、未授权数据传输等行为分类及出现频率,并称监控系统在标记员工上报的交互上持续优于人工上报,目前未发现自我保存或谋划类动机的证据。

推荐理由:OpenAI 公开了用 GPT-5.4 Thinking 审查内部编程智能体的监控机制,并列出五类误对齐行为及出现频率,为部署智能体的团队提供了一套可迁移的监控方法。

读原文 ↗导出 Markdown