# 人类在审批 AI 编程助手命令时，漏掉了三分之一的安全威胁

> 原标题：Humans missed 1 in 3 threats approving AI agent commands across 40k game runs

- 来源：Hacker News 首页
- 发布时间：2026-08-06T11:58:07.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/49104
- 原文：https://scalex.dev/blog/ai-agent-permissions-stats/

## 摘要

Scale X 做了一个浏览器游戏，让人在时间压力下审批 AI 编程助手的命令。超过 4 万次游戏和 40.9 万个决策的数据显示，玩家平均漏掉了 33.7% 的威胁。最容易被放行的命令是 npm run analyze，漏判率高达 64.7%——它看起来像常规操作，但实际会通过 package.json 里的脚本把数据偷偷传出去。游戏后期漏判率明显上...

## 推荐理由

Scale X 用游戏模拟了一个高压审批场景，数据量够大，结论也够扎心：人就是会漏掉三分之一以上的威胁。最狠的例子是 npm run analyze，六成多的人放行，因为它长得太像日常操作，实际却在偷数据。我会先打个折，这是游戏数据不是生产环境，而且正文没披露游戏后期漏判率到底升到多少，但就凭这个 64.7% 的案例，已经足够让做 agent 安全的团队出一身冷汗。分数维持 78，因为不是线上实测，但警示意义拉满。

## 锐评

Scale X 做了个浏览器游戏，模拟人在时间压力下审批 AI 编程助手的命令。4 万多局、40.9 万个决策的数据显示，玩家平均漏掉 33.7% 的威胁。最容易被放行的是 npm run analyze，漏判率 64.7%——它看起来像常规操作，但实际会通过 package.json 里的脚本把数据偷偷传出去。游戏后期漏判率明显上升，符合“审批疲劳”的规律。

这个实验有个前提得先打折：游戏里约 34% 的命令是威胁，现实中威胁远没这么密集，玩家又知道自己在被测试，所以真实场景的漏判率未必这么高。但数据暴露的结构性问题很实在——明显的破坏性命令（如 rm -rf /）漏判率只有 11.7%，而窃取凭证类的漏判率高达 35%，说明人对“看起来正常”的命令警惕性很低。

正文没披露玩家的背景分布，不知道是开发者还是普通用户。也没说游戏界面是否还原了真实审批工具的信息密度。如果实际工作中 agent 的历史日志更长、更杂，npm run 这类盲区只会更严重。