Anthropic 研究员离职：好人拒绝做坏事

Good people refuse to do bad things

Jacob Coxon 在股权归属前两个月从 Anthropic 辞职，公开警告 AI 可能在十年内杀死所有人。他的帖子获得超过 1.15 亿次浏览。Anthropic 的对齐团队负责人 Evan Hubinger 确认，公司内部确实认为十年内 AI 导致人类灭绝的概率大于 10%，且目前没有解决超级智能对齐问题的方案。文章将此事与 2021 年 Fa...

推荐理由：我会先打个折：核心事实来自个人证词和公司内部人士确认，不是经过同行评审的研究，所以别把它当定论。但信息量很密——一个内部人用放弃股权的方式，把 Anthropic 内部对灭绝风险的估算（>10%）和对齐方案缺失这两件事同时捅了出来。对齐负责人 Evan Hubinger 的确认让这事从个人表态升级为公司层面的认知披露。帖子 1.15 亿次浏览说明公众情绪已经被点燃。对从业者来说，这不是远方的哲学讨论，而是明天上班要不要继续写代码的问题。