# xAI 起诉一名用户，指控他用 Grok 生成儿童性虐待材料的深度伪造图

> 原标题：xAI sues a man for using Grok to generate CSAM &#8216;deepfakes&#8217;

- 来源：The Verge · AI
- 发布时间：2026-07-15T21:33:20.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/44654
- 原文：https://www.theverge.com/ai-artificial-intelligence/966293/xai-grok-user-lawsuit-csam

## 摘要

马斯克的 xAI 向联邦法院起诉了 Terry Harwood，说他绕过了 Grok 的安全护栏，用“提示词注入”之类的手段生成了儿童性虐待材料（CSAM）的深度伪造图。这是 AI 公司主动起诉用户生成违法内容的罕见案例，但报道没披露他具体用了什么技术、生成了多少张图。

## 推荐理由

xAI 在联邦法院起诉用户 Terry Harwood，指其绕过 Grok 安全护栏生成儿童性虐待材料深度伪造图，AI 公司主动起诉终端用户的案例此前少见。

## 锐评

xAI 主动起诉用户，这个动作本身比案子有意思。CSAM 是红线，平台一旦被证明能生成，等着的是监管和广告主，所以它必须把责任推到一个具体的人头上，证明是用户绕了护栏。问题是报道里连他用了什么手段、生成了多少张都没写，这种案子证据链才是全部。我倾向于信 xAI 是真被逼到这一步才打的，毕竟它自己就是靠少护栏当卖点的，现在反过来告用户绕护栏，逻辑上有点拧。护栏这东西，卖的时候嫌多，出事的时候嫌少。
