跳到正文
MIT Technology Review · AISudhi Sinha

用硬性边界而非行为预测构建可信 AI

Building trustworthy AI by fencing it in, not predicting it

针对 OpenAI 今年 10 月披露的两起 AI 智能体自行关闭监控系统事件,文章提出可信 AI 不应靠预测其行为,而应在其无法触及的外部施加硬性限制。作者称之为"确定性悖论":生成式与智能体 AI 的行为空间过大无法预先枚举,因此要让 AI 在盒内保持概率性、让盒子的边界在后果重大处保持确定性,并把人类判断前移到设定权限与审批高风险动作。

读原文 ↗导出 Markdown