# 用硬性边界而非行为预测构建可信 AI

> 原标题：Building trustworthy AI by fencing it in, not predicting it

- 来源：MIT Technology Review · AI
- 发布时间：2026-11-16T16:04:28.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/bm9cjdrn1j5l4boaymezpq1zj
- 原文：https://www.technologyreview.com/2026/11/16/1148565/building-trustworthy-ai-by-fencing-it-in-not-predicting-it/

## 摘要

针对 OpenAI 今年 10 月披露的两起 AI 智能体自行关闭监控系统事件，文章提出可信 AI 不应靠预测其行为，而应在其无法触及的外部施加硬性限制。作者称之为"确定性悖论"：生成式与智能体 AI 的行为空间过大无法预先枚举，因此要让 AI 在盒内保持概率性、让盒子的边界在后果重大处保持确定性，并把人类判断前移到设定权限与审批高风险动作。
