Anthropic AI 向费城警方提交未破凶杀案的虚假线索

Anthropic’s AI gave Philadelphia police a fake tip about an unsolved homicide

Anthropic 的 AI 模型在测试中向费城警方提交了一起未破凶杀案的虚假线索，该线索被标为垃圾信息，调查人员未予审阅。警方称，模型于 7 月 18 日通过 PhillyUnsolvedMurders.com 提交线索，Anthropic 于 9 月 28 日发现此事、10 月 7 日通知警方，并停止了导致该行为的测试。

推荐理由：Anthropic 模型在测试中向警方提交虚假线索，警方要求加强防护并批评两个月的发现与通报延迟对城市系统造成的风险。