跳到正文
Import AI

AI 安全研究员成立 Sequent:对齐这条路还没走稳

Import AI 461: “Alignment is not on track”; FrontierCode; and synthetic research interns

英国 AI 安全研究所和 Timaeus 的研究员联手搞了个非营利组织 Sequent,直接说当前的对齐方法是“被动打补丁”,在训练超级智能之前拿不出有原则的保证。他们打算先融 1 到 1.5 亿美元,同时押注可扩展监督、学习理论、博弈论等多个方向,目标是找到让对齐效果在不可控场景下依然靠谱的方法。

推荐理由:英国 AI 安全研究所和 Timaeus 的研究员成立非营利组织 Sequent,认为当前对齐方法只是被动打补丁,计划融资 1 到 1.5 亿美元并押注可扩展监督、学习理论、博弈论等方向。

读原文 ↗导出 Markdown