# OpenShell 团队用数学证明来管 AI 代理的权限，思路来自 AWS 的老经验

> 原标题：What we have learned at OpenShell applying formal methods to control AI agents

- 来源：Hacker News 首页
- 发布时间：2026-09-15T14:40:05.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/56732
- 原文：https://nvidia.github.io/OpenShell-Research/dev-notes/posts/2026-09-10-learning-formal-methods-agent-policy-prover/

## 摘要

NVIDIA OpenShell 团队发布开发笔记，介绍如何用开源 Z3 库对智能体提出的策略变更做形式化证明，验证其仍处于人类批准的权限范围内。文章先解释为何在智能体规模化后人工权限审查会失效，再回顾团队在 AWS 证明 EC2、IAM 和 S3 策略的先前工作，并给出把 OpenShell 策略编码为形式逻辑、用 SAT/SMT 与 Z3 执行包含性查询的步骤。

## 推荐理由

NVIDIA OpenShell 团队用开源 Z3 库对智能体提出的策略变更做形式化验证，确认其仍处于人类批准的权限范围内，并给出把策略编码为形式逻辑的具体步骤。

## 锐评

用 Z3 证明 agent 的策略变更没越权，这个方向我信，卡住的地方在策略本身写不写得清楚。文章说人工审查在 agent 规模化后失效，这话对，一个 agent 一天提几十次权限变更，没人看得过来。可形式化验证的前提是权限范围能编码成逻辑，现实里大部分团队的权限就是一堆散在 prompt 和代码里的 if，得先有人把它整理成机器能读的策略。NVIDIA 有 AWS 那套 IAM 证明的底子，做这个顺手，普通团队抄不动。这更像给安全工程指了条路。
