# OpenAI 说今年已端掉 20 多个滥用其模型的欺骗性网络

> 原标题：An update on disrupting deceptive uses of AI

- 来源：OpenAI News
- 发布时间：2024-10-09T03:30:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/692
- 原文：https://openai.com/global-affairs/an-update-on-disrupting-deceptive-uses-of-ai

## 摘要

OpenAI 发了一篇安全更新，说从 2024 年初到现在，已经发现并掐断了超过 20 个试图用他们模型干坏事的行动和欺骗性网络。这些事主要跟选举干扰、社交媒体操纵以及有国家背景的团伙有关。文章把具体发现写进了 2024 年 10 月的一份威胁情报报告里，但正文没披露这 20 多个案例分别用了哪些模型，也没说具体是怎么发现和阻断的。我会先打个折，这更像...

## 推荐理由

OpenAI 这篇公告 HKR 三项都站得住：20 多次打击是个能让人点进来的数字，威胁情报报告更新到 10 月也算新事实，选举干扰和社媒操纵又是当下最烫手的安全话题。不过正文没给出具体样本分布、用了哪些模型、怎么处置的细节，所以分数停在 featured 不往上走。我会先打个折——没看到实操层面的干货，这点先别太激动。

## 锐评

这篇更新更像一份公关姿态声明，而不是技术复盘。OpenAI 声称从 2024 年初至今，已发现并阻断超过 20 个试图用其模型进行欺骗性活动的网络，主要涉及选举干扰、社交媒体操纵和有国家背景的团伙。关键信息全在链接的那份 10 月威胁情报报告里，但这篇正文没披露任何案例细节：没说是通过 API 还是 ChatGPT 界面滥用，没提用了哪些检测手段，也没给出误报率或响应延迟这类能衡量实际防御水平的数据。

对从业者来说，知道“坏人想用 AI 干坏事”不算新闻，想知道的是攻击手法有没有绕过现有安全护栏、模型在哪些环节被钻了空子。这些正文全都没写。我会先打个折，把这篇看作 OpenAI 在选举年对外释放的安全信号，等看完完整报告再判断他们的检测能力到底靠不靠谱。