# OpenAI 说今年已端掉 20 多个滥用其模型的欺骗性网络

> 原标题：An update on disrupting deceptive uses of AI

- 来源：OpenAI News
- 发布时间：2024-10-09T03:30:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/692
- 原文：https://openai.com/global-affairs/an-update-on-disrupting-deceptive-uses-of-ai

## 摘要

OpenAI 发了一篇安全更新，说从 2024 年初到现在，已经发现并掐断了超过 20 个试图用他们模型干坏事的行动和欺骗性网络。这些事主要跟选举干扰、社交媒体操纵以及有国家背景的团伙有关。文章把具体发现写进了 2024 年 10 月的一份威胁情报报告里，但正文没披露这 20 多个案例分别用了哪些模型，也没说具体是怎么发现和阻断的。

## 推荐理由

OpenAI 披露今年已阻断 20 多个利用其模型实施选举干扰和社媒操纵的网络，涉及国家背景团伙，相关发现收录在 10 月的威胁情报报告中。

## 锐评

20 多个这个数字本身没什么信息量，该问的是这些账号怎么被发现的。OpenAI 手里有全量调用日志，抓协同行为比任何第三方都容易，这种报告更像是给监管和媒体看的姿态。选举干扰、社媒操纵这些词听着吓人，样本分布和处置细节一个没给，我倾向于把它当成一份公关文档。模型被滥用成什么样，得等外部研究者拿到数据自己跑，厂商自己发的威胁报告从来都是挑着说的。
