# Runway 公布儿童安全方案：用多层检测和 516 份举报，堵住 AI 生成儿童性虐待内容的口子

> 原标题：我们保护儿童安全的方法

- 来源：AI HOT 精选
- 发布时间：2026-05-08T23:04:23.544Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/16475
- 原文：https://runwayml.com/news/our-approach-to-child-safety

## 摘要

Runway 在 2026 年 5 月 8 日发了一篇安全说明，专门讲他们怎么防止自家视频、图像生成工具被用来制作儿童性虐待内容（CSAM）。做法分三步：模型开发阶段，先用哈希匹配和专门的分类器清洗训练数据，不让模型学到涉及未成年人的色情内容，上线前还会做对抗测试找漏洞。

## 推荐理由

Runway 说明其视频图像生成工具如何拦截儿童性虐待内容，从训练数据清洗、上线前对抗测试到向 NCMEC 提交 516 份报告，构成一套可迁移的审核流程样本。

## 锐评

516 份 NCMEC 举报是这篇里唯一有分量的东西，这套流程确实在跑，不是发篇博客交差。视频生成模型的审核成本本来就比文本高一个量级，逐帧过分类器再叠一层大模型审核，算力账单不会小。Runway 愿意公开这个数字，一半是监管压力，一半是给企业客户的合规背书。做视频生成的同行绕不开这笔开销，早做晚做都得做。
