# 我们一直搞错了 AI 的真相危机：就算知道是假的，人还是会信

> 原标题：What we’ve been getting wrong about AI’s truth crisis

- 来源：MIT Technology Review · AI
- 发布时间：2026-02-02T18:09:57.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/3905
- 原文：https://www.technologyreview.com/2026/02/02/1132068/what-weve-been-getting-wrong-about-ais-truth-crisis/

## 摘要

MIT Technology Review 的这篇文章直接点出一个反直觉的发现：我们过去对 AI 造假危机的想象，可能全偏了。作者拿自己上周的报道举例——美国国土安全部首次被确认在用 Google 和 Adobe 的 AI 视频工具做面向公众的宣传内容，配合特朗普政府的移民执法造势。文章指出，我们原本指望靠 Adobe 的“内容真实性倡议”这类标签工具...

## 推荐理由

这篇不是空对空的评论。它先拿国土安全部用 Google 和 Adobe 视频生成器做公开内容这件事当引子，然后拆了两个标签系统的实际漏洞，最后用 Communications Psychology 的论文把问题钉死：受试者明知认罪视频是 deepfake，还是会据此判断有罪。信息链条完整，判断都挂在事实和论文上，没有补设定。我会先打个折，因为它本质还是评论加一篇论文，不是当天能震动行业的硬事件，但对正在搭安全流程的团队来说，这篇值得一看。

## 锐评

这篇文章戳破了一个我们一直搞错的重点。过去大家觉得 AI 造假最可怕的是让人分不清真假，所以拼命推内容溯源标签。但现实是，标签工具已经崩了：Adobe 只自动标记纯 AI 生成的内容，混剪的靠用户自觉勾选，X 平台还能直接隐藏或删掉标签。更麻烦的是，一篇发表在《Communications Psychology》上的论文发现，参与者明知一段认罪视频是 AI 伪造的，之后判断嫌疑人是否有罪时，仍然被那段假视频带偏。这说明“先骗后澄清”根本洗不掉影响。文章拿美国国土安全部用 Google 和 Adobe 的 AI 视频工具做公众宣传举例，配合移民执法造势，而白宫此前也发过篡改的抗议者照片。正文没披露这些 AI 视频的具体投放量和受众覆盖范围，也没给出标签工具在各平台的实际执行率数据。光靠验证真假已经兜不住社会信任了，这点需要重新想。