# Meta员工警告：用大模型替代人工审核推得太快，误判和影子封禁仍在发生

> 原标题：Meta员工警告AI内容审核部署过快

- 来源：AI HOT 精选
- 发布时间：2026-06-25T10:07:19.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/40504
- 原文：https://the-decoder.com/meta-employees-warn-ai-moderation-rollout-is-too-fast

## 摘要

Meta在2025年已经把大约一半的内容审核请求交给了大语言模型处理，并计划年底前把部分内容类型的AI审核比例推到90%以上。公司说自家模型比人工审核错误少13%，能多揪出10%的违规内容，一年能省下几十亿美元。但内部员工不这么看，他们说模型还是会误删或悄悄限流（影子封禁）无害内容，而且这么快的铺开速度，监管根本跟不上。另外，Meta后台还在做模型切换...

## 推荐理由

这条消息的核心矛盾很清楚：公司拿省钱和准确率说事，员工拿误删和影子封禁反驳。数字本身有参考价值，但要注意这是二手报道，不是一手内部文件，员工那边的具体案例和模型切换细节正文没展开，所以判断上我会先打个折。对从业者来说，这比单纯宣布AI审核上线有用，因为它暴露了部署速度和监管跟不上的老问题。

## 锐评

Meta把一半的内容审核交给大语言模型，还打算年底前把部分内容类型的AI审核比例推到90%以上。公司给出的理由是自家模型比人工审核错误少13%，能多揪出10%的违规内容，一年能省几十亿美元。这个数字听起来很漂亮，但得打个折——内部员工的说法是，模型还是会误删或悄悄限流（影子封禁）一些根本没问题的内容，而且铺开速度太快，监管完全跟不上。

另外有个细节值得注意：Meta后台正在把审核模型从Google的Gemini换成自家的Muse Spark，训练数据是过去人类审核员的决定。这等于说，模型学的是“人以前怎么判”，但人以前判得对不对、有没有偏见，正文没披露。如果训练数据本身就有问题，那13%的错误率下降可能只是换了一种错法。

现在还缺几块关键信息：一是误删和限流的真实比例到底是多少，公司没给；二是所谓“省钱”是省了人力成本，还是把风险成本转嫁给了用户和创作者；三是外部监管机构对90%这个目标的合规评估还没看到。如果这些补不上，Meta说的质量提升就先别太当真。