OpenAI 公开了它怎么拦截用 AI 生成或上传儿童性虐待内容

Combating online child sexual exploitation & abuse

OpenAI 在 2025 年 9 月 29 日发了一篇安全说明，讲他们怎么防止自家模型被用来制作或传播儿童性虐待材料（CSAM/CSEM）。规则上，任何涉及未成年人的色情内容都禁止，一旦发现生成或上传这类内容，账号直接封禁并上报给美国失踪与受虐儿童中心（NCMEC）。技术手段上，他们用了三套工具：哈希匹配（拿已知的违法图片指纹做比对）、Thorn 的...

推荐理由：这篇不是产品发布，是 OpenAI 在 2025 年 9 月 29 日发的儿童安全措施说明。我会先打个折：标题和开头像标准合规声明，没什么新闻爆点。但往下看，技术细节给得比一般政策文多——明确写了用哈希匹配、Thorn 的分类器，以及自家模型去扫文本、图片、音频、视频和用户上传内容。更关键的一句是，他们已经观察到用户上传违规材料，还要求模型做细节描述，这说明滥用不是假设，是正在发生的对抗场景。对做安全和对齐的团队来说，这套跨模态监测组合和已确认的滥用模式，比单纯喊口号有用。信息量够，但缺具体误报率或拦截量级，所以放在 featured 档，不往上拔。