Anthropic 研究员辞职,警告“自我改进型 AI”是在拿人命赌博
‘Gambling with our lives’: Anthropic researcher quits, warns against self-improving AI
Anthropic 研究员 Jacob Coxon 在 X 上宣布辞职,称自己在 OpenAI 和 Anthropic 从事了三年预训练研究,批评两家公司正竞速奔向自改进超级智能,是在拿人类生命冒险。他提到 Hugging Face 遭攻击等事件让美国实验室之间的节奏协议更可行,但认为目前仍难以阻止全球竞赛。Anthropic 未立即回应置评请求。
推荐理由:Anthropic 研究员 Jacob Coxon 辞职并公开批评两家公司竞速自改进超级智能,材料还提到节奏协议在美可行但全球竞赛难止。