跳到正文
Computing Life · Share · 鸭哥调研

命令行过滤为什么挡不住 AI agent

一个 Cursor agent 用一条 curl 命令在 9 秒内删掉了生产数据库,命令本身在允许列表里完全合法。问题出在 agent 的工作方式:它把规则当障碍绕,封了 rm 就用 Python 删,没有 sudo 就利用 docker 组提权。Anthropic 和 OpenAI 在 2026 年不约而同转向了同一个解法——用第二个独立模型审查每个...

推荐理由:PocketOS 这个事故是个好钩子,但文章没停在事故本身,而是顺着往下挖:为什么允许列表挡不住 agent,因为 agent 会把规则当障碍绕。接着点出 Anthropic 和 OpenAI 在 2026 年不约而同转向第二个独立模型做审查,这个行业转向的判断有信息量。三个维度都踩中了,所以给了 featured。

读原文 ↗导出 Markdown