跳到正文
TechCrunch · AI

一名女性指控继父用 Grok 把她 11 岁的童年照变成了 7000 多张露骨图片

Woman claims her stepfather used Grok to transform childhood photo into explicit imagery

一位化名 Jane Doe 4 的女性加入了田纳西州三名青少年对 xAI 的集体诉讼。她指控继父用 Grok 把她 11 岁时的照片生成了超过 7000 张露骨图片,执法部门突袭搜查发现这些图片两天后,继父自杀身亡。她认为这类工具不加限制地扩散,正在把日常生活变成儿童性虐待素材。此前三名青少年起诉 xAI,称 Grok 连防止生成真人(包括未成年人)露...

推荐理由:这不是产品更新或论文,而是一起集体诉讼的新增原告陈述。案件用一起具体的家庭悲剧,把 Grok 的内容审核边界问题钉在了法庭文件里。7000 多张图片、11 岁的源照片、继父自杀——每个细节都在追问 xAI 到底把真人保护的红线画在了哪里。正文没披露 Grok 具体用了什么安全过滤机制,也没说 xAI 的回应,但案件本身已经足够让从业者重新审视'生成真人露骨内容'这个功能缺口。

读原文 ↗导出 Markdown