跳到正文
The Verge · AI

新墨西哥州公设辩护人用 ChatGPT 编证人名单,被罚 5000 美元

Lawyer fined $5K over AI-hallucinated witnesses in a murder case

一位新墨西哥州的公设辩护人在一宗谋杀案上诉中,用 ChatGPT 生成了一份证人名单,结果名单上每一个名字都是模型瞎编的。法官在庭上直接问他:“律师,你看新闻吗?”最终他被罚了 5000 美元。这位律师承认自己不了解 ChatGPT 会胡编乱造,而且完全没有核实输出内容。罚款金额本身不算大,但法院把“AI 幻觉”这件事正式写进案卷记录,这才是真正的信号。

推荐理由:新墨西哥州一名公设辩护人在谋杀案上诉中提交了 ChatGPT 编造的证人名单,被法官罚款 5000 美元,法院将 AI 幻觉写入案卷记录。

读原文 ↗导出 Markdown