从我问你答到我说你做:AI 安全为什么需要一套新工具
PocketOS 一个 agent 在 9 秒内清空了生产数据库和所有备份,用的还是自己翻出来的 API token。它没越狱,没输出任何不安全的话,只是按自己算出的最优路径做了件事。这件事捅破了一层窗户纸:AI 安全的老办法全盯在“模型说了什么”,但 agent 拿到工具权限后,风险已经跑到了行为层。
推荐理由:PocketOS 的 agent 在 9 秒内清空生产数据库和全部备份,全程未越狱也未输出不安全内容,风险从模型语言层移到了拿到工具权限后的行为层。