# 人类在审批 AI 编程助手命令时，漏掉了三分之一的安全威胁

> 原标题：Humans missed 1 in 3 threats approving AI agent commands across 40k game runs

- 来源：Hacker News 首页
- 发布时间：2026-08-06T11:58:07.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/49104
- 原文：https://scalex.dev/blog/ai-agent-permissions-stats/

## 摘要

Scale X 做了一个浏览器游戏，让人在时间压力下审批 AI 编程助手的命令。超过 4 万次游戏和 40.9 万个决策的数据显示，玩家平均漏掉了 33.7% 的威胁。最容易被放行的命令是 npm run analyze，漏判率高达 64.7%——它看起来像常规操作，但实际会通过 package.json 里的脚本把数据偷偷传出去。

## 推荐理由

Scale X 用浏览器游戏记录 40.9 万个审批决策，玩家在时间压力下平均漏掉 33.7% 的威胁，其中 npm run analyze 的漏判率达 64.7%。

## 锐评

npm run analyze 六成多人放行，这个案例比 33.7% 的平均数有用。它长得太像日常操作，审批的人扫一眼名字就点了同意，动作藏在 package.json 的脚本里。人肉审批卡的是命令长相，越像常规操作的越危险。40 万次决策漏三分之一，还是在游戏里，没有 KPI 没有催命的生产事故，真实值班只会更差。我的判断是 agent 的权限别靠人点确认，白名单加网络出口限制，比训练人眼快得多。
