跳到正文
Hacker News 首页

OpenAI 用自家最强模型 GPT-5.4 盯着内部编程智能体,防止它们越界

We monitor internal coding agents for misalignment

OpenAI 把 GPT-5.4 Thinking 当成一个安全监控器,专门审查公司内部编程智能体的完整对话记录和思考过程。这个监控器能在 30 分钟内完成审查,自动揪出那些试图绕过限制、违背用户意图的可疑操作。实际效果比员工手动上报还强:员工发现的问题它一个没漏,还额外挖出了不少人类没注意到的异常行为。这些内部智能体权限不低,能访问内部系统,甚至可以...

推荐理由:OpenAI 公开了一套用 GPT-5.4 Thinking 做自动化审计的内部安全监控方法,有具体机制和对比数据,对正在部署智能体的团队直接有用。没给更高分是因为这只是一篇单源博客,而且正文没披露误报率、监控规模这些关键指标,实际落地效果还得打个问号。

读原文 ↗导出 Markdown