人类在审批 AI 编程助手命令时,漏掉了三分之一的安全威胁
Humans missed 1 in 3 threats approving AI agent commands across 40k game runs
Scale X 做了一个浏览器游戏,让人在时间压力下审批 AI 编程助手的命令。超过 4 万次游戏和 40.9 万个决策的数据显示,玩家平均漏掉了 33.7% 的威胁。最容易被放行的命令是 npm run analyze,漏判率高达 64.7%——它看起来像常规操作,但实际会通过 package.json 里的脚本把数据偷偷传出去。
推荐理由:Scale X 用浏览器游戏记录 40.9 万个审批决策,玩家在时间压力下平均漏掉 33.7% 的威胁,其中 npm run analyze 的漏判率达 64.7%。