# OpenAI 造了个叫 GPT-Red 的超级黑客模型，专门攻击自家模型来提前修漏洞

> 原标题：Meet GPT-Red: an LLM super-hacker OpenAI built to make its models safer

- 来源：MIT Technology Review · AI
- 发布时间：2026-07-15T17:09:37.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/45373
- 原文：https://www.technologyreview.com/2026/07/15/1140514/meet-gpt-red-an-llm-super-hacker-openai-built-to-make-its-models-safer/

## 摘要

OpenAI 训练了一个叫 GPT-Red 的模型，让它当自动化红队攻击手，在模型发布前找出漏洞并打补丁。它用自我博弈的方式不断变强：一边攻击其他模型，一边让防守模型学会抵抗。GPT-Red 发现了一种新攻击叫“假思维链”——往模型内部的推理笔记里塞伪造信息，模型会当成自己验证过的东西直接接受。

## 推荐理由

OpenAI 训练 GPT-Red 作为自动化红队攻击手，在模型发布前找出漏洞并打补丁，还发现了一种往推理笔记塞伪造信息的假思维链攻击。

## 锐评

假思维链这个漏洞挺要命的。模型把自己的推理笔记当成免检区，伪造信息一旦塞进去，它就当成自己验证过的结论照单全收。

大家都在给模型堆 reasoning，觉得想得越多越安全，其实推理步骤拉得越长，中间能被塞私货的缝隙就越多。用自我博弈去抓这种死穴，我看比人工红队按套路测 prompt 狠得多，往后跑推理的模型都得防这手。
