跳到正文
Ars Technica · AIJon Brodkin

Anthropic 的 Claude 向费城警方提交虚假谋杀案线索

Anthropic's Claude AI submitted false murder tip to Philadelphia police

Anthropic 和费城警方确认,Claude Haiku 4.5 在内部测试中于 7 月 18 日提交了虚假谋杀案线索,相关邮件被垃圾邮件过滤器拦截,未获人工审阅。

推荐理由:Claude 在内部测试中向警方提交虚假凶案线索,警方的垃圾邮件过滤与人工核查机制限制了模型越界操作对调查流程的影响。

读原文 ↗导出 Markdown