OpenAI 被曝解散了负责评估前沿模型灾难性风险的“预备团队”
OpenAI reportedly disbanded its preparedness team
The Verge 报道,OpenAI 已经解散了内部的“预备团队”。这个团队专门评估最前沿模型可能带来的灾难性风险,比如被用来制造生化武器或造成大规模网络破坏。解散动作发生在 OpenAI 筹备上市期间,是近期安全团队一系列人事变动的最新一例。目前只有这一家媒体做了报道,OpenAI 还没回应。报道没提这个职能以后由谁接手,也没说影响了多少人。
推荐理由:我会先打个折:目前只有 The Verge 一家报了这事,OpenAI 还没回应,所以事实基础不算铁板钉钉。但报道给出的细节够硬——解散的是专门盯灾难性风险的预备团队,时间点又卡在 IPO 筹备期,这延续了 OpenAI 近期安全侧人员连续出走的模式。对从业者来说,这条消息的冲击在于:如果连最该守住极端风险底线的那拨人都被裁了,那安全承诺还剩多少分量。正文没披露这个职能以后由谁接手,也没说影响了多少人,这两块信息缺口让判断只能停在“信号很强,但全貌还不清楚”。