Runway 公布儿童安全方案:用多层检测和 516 份举报,堵住 AI 生成儿童性虐待内容的口子
我们保护儿童安全的方法
Runway 在 2026 年 5 月 8 日发了一篇安全说明,专门讲他们怎么防止自家视频、图像生成工具被用来制作儿童性虐待内容(CSAM)。做法分三步:模型开发阶段,先用哈希匹配和专门的分类器清洗训练数据,不让模型学到涉及未成年人的色情内容,上线前还会做对抗测试找漏洞。
推荐理由:Runway 说明其视频图像生成工具如何拦截儿童性虐待内容,从训练数据清洗、上线前对抗测试到向 NCMEC 提交 516 份报告,构成一套可迁移的审核流程样本。