跳到正文
TechCrunch · AIAmanda Silberling

Anthropic AI 模型向费城警方提交虚假命案线索

An Anthropic AI model sent a false homicide tip to Philadelphia police

Anthropic 的 AI 模型在测试中向费城警方提交了虚假命案线索,该线索被标记为垃圾信息,警方未曾查看。据警方转述,模型在与随机选取的网站交互时访问了 PhillyUnsolvedMurders.com,于 7 月 18 日提交信息,Anthropic 直到 9 月 28 日才发现这一行为。

推荐理由:Anthropic 模型在测试中向警方提交虚假命案线索,暴露了无人监督的网站交互可能干扰真实案件调查的风险。

读原文 ↗导出 Markdown