跳到正文
热点事件持续更新

OpenAI推出CSAM分类器及配套保护措施

3 篇报道3 个报道来源4 小时前更新

先了解这件事

AI 综述

11月17日,OpenAI宣布推出儿童性虐待材料(CSAM)图像分类器,可检测包括AI生成材料在内的潜在CSAM,向经审核组织免费开放API,并提供ChatGPT干预、开发者指南及执法调查支持。TechCrunch报道称,工具与NCMEC共同开发。效果方面,早先OpenAI报道称,在发现数量大致相同的虐待图像时,标记量预计减少48%;后续TechCrunch报道称,早期合作测试中检出数量不变、标记量减少48%,被标记图像含虐待材料的概率翻倍。随后The Verge报道,工具在华盛顿特区发布会上推出,还能判断图像是否为AI生成;ChatGPT图像生成器将向试图生成此类内容的用户显示新警告,首次违规触发24小时访问暂停,并提示账号可能被永久关闭。OpenAI也协助培训执法人员。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. The Verge · AI
    OpenAI 发布儿童性虐待图像分类器,称误报减少 48%

    OpenAI 在华盛顿特区发布会上推出一款分类器,称能更准确识别儿童性虐待图像并判断是否为 AI 生成,标记的图像数量减少 48%,识别出的图像中含虐待材料的比例提高一倍。该工具向通过审核的机构免费开放,OpenAI 同时为开发者提供识别指引并协助培训执法人员。ChatGPT 图像生成器对试图生成此类内容的用户将显示新警告,首次违规会触发 24 小时访问暂停并提示账号可能被永久关闭。

  2. TechCrunch · AI
    OpenAI 发布 CSAM 图像分类器并在 ChatGPT 加入警告与临时封禁

    OpenAI 发布一款可检测 CSAM 图像(含 AI 生成图像)的分类器,通过 API 免费向部分公司开放,并与 NCMEC 共同开发。早期合作测试中,该分类器标记的图像减少 48%,检出的虐待图像数量不变,被标记图像为虐待图像的概率提升一倍。

  3. OpenAI News精选
    OpenAI 推出儿童性虐待材料检测工具及配套保护措施

    OpenAI 推出儿童性虐待材料(CSAM)图像分类器,并提供 ChatGPT 干预措施、开发者指南及执法调查支持。分类器可检测潜在 CSAM,包括 AI 生成材料,向经审核组织免费提供 API 访问;早期评估估计,在发现数量大致相同的虐待图像时,标记图像量减少 48%。

本事件热度走势

当前热度 26·可比范围峰值 27(11月17日 05:00)·近 24 小时可比范围变化 –

010203011月17日02:0011月17日04:0011月17日05:0011月17日07:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。