# xAI 起诉一名用户，指控他用 Grok 生成儿童性虐待材料的深度伪造图

> 原标题：xAI sues a man for using Grok to generate CSAM ‘deepfakes’

- 来源：The Verge · AI
- 发布时间：2026-07-15T21:33:20.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/44654
- 原文：https://www.theverge.com/ai-artificial-intelligence/966293/xai-grok-user-lawsuit-csam

## 摘要

马斯克的 xAI 向联邦法院起诉了 Terry Harwood，说他绕过了 Grok 的安全护栏，用“提示词注入”之类的手段生成了儿童性虐待材料（CSAM）的深度伪造图。这是 AI 公司主动起诉用户生成违法内容的罕见案例，但报道没披露他具体用了什么技术、生成了多少张图。xAI 在诉状里要求赔偿名誉损失和法律费用，不过这种“用户滥用模型”的官司，能不能真...

## 推荐理由

xAI 起诉用户用 Grok 生成 CSAM 深度伪造图，是少见的 AI 公司追着终端用户打的案例。话题够硬，但正文没披露具体技术手段和生成数量，事实密度偏薄，所以分数没往上拉。

## 锐评

xAI 把一名叫 Terry Harwood 的用户告上了联邦法院，理由是这人用 Grok 生成了儿童性虐待材料的深度伪造图。报道提到他用了“提示词注入”这类手段绕过模型的安全限制，但没披露具体技术细节，也没说生成了多少张图、xAI 是怎么发现的。

这是 AI 公司主动起诉用户滥用模型的罕见案例，xAI 在诉状里要求赔偿名誉损失和法律费用。不过这类官司能不能打赢还不好说，因为平台责任和用户滥用之间的界限一直很模糊。报道也没提 xAI 自己的安全护栏到底有多严，是事后补的还是在生成阶段就拦住了。

如果 xAI 能拿出完整的检测和拦截记录，这个案子可能会成为行业先例。但现在信息缺口太大，正文没披露技术验证、没披露执法协作，也没说 Grok 的图像生成能力到底开放到什么程度。