Microsoft CEO Satya Nadella称AI模型需要“紧急制动”机制

Microsoft’s Satya Nadella says AI models need an ‘emergency brake’

Microsoft CEO Satya Nadella提出，AI系统应具备让授权人员随时暂停或关闭执行中模型的“紧急制动”机制。他主张将模型与编排其工作的框架分离，把控制与防护措施外置，并为每项重要模型行动保存防篡改、可供人类阅读的证据。他强调，应从一开始就假设模型已被攻陷，并对其实施隔离限制。