Paul Christiano:能够推翻政府的 AI 可能距今仅 12 个月
Paul Christiano 在 Dwarkesh Patel 播客中表示,若保持当前发展速度而不减速,1 年内出现超智能的概率约为 1/3。他主张实验室暂停预训练和 RL 等方面的算法进步,直到能够保护模型权重与研究秘密,并判断系统是否受到充分控制。他强调这些是个人观点,不代表 OpenAI 董事会立场,并警告模型或算法失窃可能让实验室在察觉失控风险后仍难以停止竞赛。
推荐理由:Paul Christiano 将暂停算法进步的主张与模型失窃风险联系起来,指出安全防护不足会让实验室在发现失控后难以减速。