# OpenAI 把内容审核接口升级成多模态了，现在能同时看文字和图片

> 原标题：Upgrading the Moderation API with our new multimodal moderation model

- 来源：OpenAI News
- 发布时间：2024-09-26T10:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/704
- 原文：https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model

## 摘要

OpenAI 在 9 月 26 日上线了新的审核模型 omni-moderation-latest，基于 GPT-4o，所有开发者都能免费用。它最大的变化是能审图片了，覆盖暴力、自残、色情这 6 个子类，不过色情类里涉及未成年人的图片暂时还审不了。文字审核新增了“违法”和“违法/暴力”两个类别，比如“怎么偷东西”这种教人干坏事的提示词会被抓出来。

## 推荐理由

OpenAI 上线基于 GPT-4o 的 omni-moderation-latest 审核模型并免费开放，新增图片审核与违法类文字识别，多模态内容审核的覆盖范围由此扩展。

## 锐评

免费开放这个点比多模态本身更值得说。审核接口按调用量计费的话，一个 UGC 产品光过滤成本就能吃掉不少毛利，OpenAI 直接不收钱，小团队没理由自己搭一套。能审图片是顺带的好处，卡脖子的是多语言，40 种语言平均提升 42%，出海产品以前得按语种堆规则，现在一个接口能省掉不少活。未成年人色情图片还审不了，这块合规风险得自己兜。
