跳到正文
The Verge · AITerrence O’Brien

纳德拉主张假定所有 AI 模型已遭入侵,并设置紧急制动机制

Satya Nadella says we should assume all AI models are ‘compromised’

Microsoft CEO 萨提亚·纳德拉主张假定 AI 模型已遭入侵,从一开始就实施隔离,并让授权人员能在任务中途暂停或关闭模型。他在 X 长文中呼吁建立透明、可观察的系统,留下防篡改且人类可读的证据,并提出及时披露事件、独立审计和可验证数据等要求。更先进的模型需要更先进的隔离技术,他呼吁将这些技术标准化。

读原文 ↗导出 Markdown