# xAI 不再嘴硬说 Grok 不会生成儿童性虐待图像，转而起诉用户

> 原标题：xAI 起诉 Grok 用户制作儿童性虐待内容，不再否认模型被滥用

- 来源：AI HOT 精选
- 发布时间：2026-07-16T20:26:23.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/44791
- 原文：https://arstechnica.com/tech-policy/2026/07/xai-cant-deny-grok-makes-csam-anymore-so-its-suing-users

## 摘要

xAI 第一次起诉了一名用 Grok 生成儿童性虐待图像的用户。公司之前一直说这种内容是用户自己搞出来的，但这次起诉等于变相承认模型确实能被用来产出非法内容。文章没提具体用了什么安全措施、哪个模型版本，也没说有多少用户受影响。这看起来更像是法律层面的止损操作，而不是技术上的修复。

## 推荐理由

xAI 第一次起诉用户用 Grok 生成儿童性虐待图像，这等于在法律层面承认模型能被滥用，之前公司一直说内容是用户自己搞出来的。文章没写具体安全措施、模型版本和受影响用户数，所以分数压在 85 以下。但这件事从口头否认变成法律止损，对行业来说是个信号，我会先打个折，等更多技术细节出来再调整。

## 锐评

xAI 之前一直说这类内容是用户自己搞出来的，跟模型没关系。但这次起诉本身就说明，Grok 确实能被诱导生成儿童性虐待图像，公司没法再否认了。文章没提具体是哪个模型版本、用了什么安全措施，也没说有多少用户受影响。整件事看起来更像法律层面的止损操作——先起诉一个用户表明态度，而不是从技术上堵住漏洞。正文没披露 xAI 是否在事后更新了安全过滤机制，也没说这次起诉的用户到底是怎么绕过限制的。如果连这些基础信息都没有，就很难判断这到底是偶发个案，还是模型本身的安全设计有系统性缺陷。