# OpenAI 公开了它怎么拦截用 AI 生成或上传儿童性虐待内容

> 原标题：Combating online child sexual exploitation & abuse

- 来源：OpenAI News
- 发布时间：2025-09-29T03:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/452
- 原文：https://openai.com/index/combating-online-child-sexual-exploitation-abuse

## 摘要

OpenAI 在 2025 年 9 月 29 日发了一篇安全说明，讲他们怎么防止自家模型被用来制作或传播儿童性虐待材料（CSAM/CSEM）。规则上，任何涉及未成年人的色情内容都禁止，一旦发现生成或上传这类内容，账号直接封禁并上报给美国失踪与受虐儿童中心（NCMEC）。

## 推荐理由

OpenAI 说明其如何拦截模型生成或用户上传的儿童性虐待内容，包括哈希匹配、Thorn 分类器与跨模态扫描，并披露已观察到用户上传违规材料并要求模型描述细节的滥用模式。

## 锐评

OpenAI 这篇里能当事实用的就一句，已经看到用户上传违规材料，还要求模型做细节描述。滥用早就是正在发生的对抗，做安全的人该把这条当基线。哈希匹配加 Thorn 分类器扫文本图片音频视频，这套组合不新鲜，跨模态全扫说明他们认了单靠文本过滤拦不住。整篇没给误报率和拦截量级，合规声明的成分不小。对做 agent 的提醒就一句，用户上传内容别默认干净，该扫的都得扫。
