跳到正文
The Verge · AI

xAI 起诉一名用户,指控他用 Grok 生成儿童性虐待材料的深度伪造图

xAI sues a man for using Grok to generate CSAM ‘deepfakes’

马斯克的 xAI 向联邦法院起诉了 Terry Harwood,说他绕过了 Grok 的安全护栏,用“提示词注入”之类的手段生成了儿童性虐待材料(CSAM)的深度伪造图。这是 AI 公司主动起诉用户生成违法内容的罕见案例,但报道没披露他具体用了什么技术、生成了多少张图。

推荐理由:xAI 在联邦法院起诉用户 Terry Harwood,指其绕过 Grok 安全护栏生成儿童性虐待材料深度伪造图,AI 公司主动起诉终端用户的案例此前少见。

读原文 ↗导出 Markdown