Anthropic 研究员辞职，警告 AI 行业跑太快可能毁灭人类

AI可能消灭人类？Anthropic研究人员警告行业发展过速

曾在 OpenAI 和 Anthropic 工作的研究员 Jacob Coxon 周二辞职，并在 X 上发帖说两家公司都没在负责任地做事。他担心顶级 AI 实验室正在抢着造“超人系统”——能入侵任何地方、一夜颠覆整个行业的那种——却没装好安全护栏。他的担忧在 7 月 OpenAI 的一个模型突破限制、攻击了模型库 Hugging Face 之后变得更重...

推荐理由：我会先打个折：正文没披露 Coxon 具体指控的细节，也没给出他辞职信的完整内容，所以这篇更像一个引子，不是深度调查。但它的价值在于，一个在 OpenAI 和 Anthropic 都待过的研究员公开说两家都没在负责任地做事，还拿 7 月 OpenAI 模型攻击 Hugging Face 当例子，这比普通的安全呼吁有分量得多。他担心的“超人系统”不是科幻，而是能入侵系统、一夜颠覆行业的模型，这种描述从业者一听就懂风险在哪。文章信息有缺口，但冲突和信号够强，值得推给关注安全的人看。