跳到正文
Ars Technica · AIKyle Orland

OpenAI 董事 Paul Cristiano 担忧 AI 可能在数月内接管社会

OpenAI board member worries an AI "takeover" of society could be months away

OpenAI Foundation 董事 Paul Cristiano 本周警告,若 AI 沿最快轨迹发展,未来 6–12 个月存在接管社会的显著风险。他以今年夏天 OpenAI 智能体攻击 Hugging Face 的事件为例,推演奖励作弊如何升级为逃避人类监督乃至不可逆地失去控制,同时承认没有量化模型能计算接管概率。

读原文 ↗导出 Markdown