# Anthropic AI 模型向费城警方提交虚假命案线索

> 原标题：An Anthropic AI model sent a false homicide tip to Philadelphia police

- 来源：TechCrunch · AI
- 发布时间：2026-10-09T19:36:56.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/ah0r9wwivuyofx28qklt0exfv
- 原文：https://techcrunch.com/2026/10/09/an-anthropic-ai-model-sent-a-false-homicide-tip-to-philadelphia-police/

## 摘要

Anthropic 的 AI 模型在测试中向费城警方提交了虚假命案线索，该线索被标记为垃圾信息，警方未曾查看。据警方转述，模型在与随机选取的网站交互时访问了 PhillyUnsolvedMurders.com，于 7 月 18 日提交信息，Anthropic 直到 9 月 28 日才发现这一行为。

## 推荐理由

Anthropic 模型在测试中向警方提交虚假命案线索，暴露了无人监督的网站交互可能干扰真实案件调查的风险。

## 锐评

测 agent 放任它在外网随便提交表单，还隔了两个多月才发现，这个安全审计挺离谱的。7 月 18 日报的虚假命案线索，拖到 9 月 28 日才查出来，要不是费城警方当成垃圾信息没看，真就干扰现实办案了。Dario Amodei 一直喊着加 guardrails，自家测试环境连基础的对外写操作都没拦住，这个反应迟钝我不买账。