Anthropic 称今年已多次阻止科学家用 Claude 做生物武器相关研究

利用AI开发生物武器？Anthropic称阻止多起相关企图

Anthropic 发布了一份威胁情报报告，梳理了过去八个月 Claude 被滥用的情况。最让人警惕的是，有科学家试图用 Claude 辅助生物武器研究，比如设计基孔肯雅病毒的更危险突变。Anthropic 没法判断这些研究是合法还是恶意，但因为发现其中一项计划在军事研究机构进行，所以还是封了相关账户。报告还记录了在中国、俄罗斯和也门有人用 Claud...

推荐理由：Anthropic主动公开了Claude过去八个月被滥用的真实案例，最扎眼的是有科学家用它设计基孔肯雅病毒的更危险突变，其中一个计划还关联到军事研究机构，公司直接封了账户。报告也记录了中俄也门等地的虚假信息行动，但Anthropic自己说这些行动没获得实质性传播。我会先打个折：报告里很多案例的最终影响有限，生物武器那块也没法判断是合法研究还是恶意企图，正文没披露后续有没有通报执法部门。不过一家头部实验室愿意把内部威胁数据摊开来讲，在安全圈里确实少见，值得从业者细读。