跳到正文
FT · 科技

Anthropic 说它的安全系统拦下了两名想用 Claude 获取生物武器知识的科学家

Anthropic says it stopped scientists potentially developing bioweapons with AI

Anthropic 在 2026 年 7 月发现两名科学家试图用 Claude 查询病原体改造、毒素生产和规避安检的方法,内部安全系统在 11 秒内识别并拦截了这些请求。公司随后报了警,称这是 AI 首次实时阻止生物武器研发。不过,正文没披露这两人的身份、所属机构,也没说报了哪家执法部门,所以这件事的严重程度和后续处理还不好判断。

推荐理由:Anthropic 称其安全系统在 11 秒内识别并拦截两名科学家用 Claude 查询病原体改造与毒素生产,随后报警,事件涉及 AI 安全系统在生物风险场景中的实际拦截能力。

读原文 ↗导出 Markdown