# OpenAI 公开两篇红队测试论文：一篇讲怎么请外部专家找茬，一篇讲怎么用 AI 自动找茬

> 原标题：Advancing red teaming with people and AI

- 来源：OpenAI News
- 发布时间：2024-11-21T10:30:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/670
- 原文：https://openai.com/index/advancing-red-teaming-with-people-and-ai

## 摘要

OpenAI 在 2024 年 11 月 21 日发了两篇论文，把自家红队测试（就是找人来攻击模型、挖风险）的方法摊开来讲。第一篇白皮书专门说外部人类红队的流程，讲了三个具体设计选择：一是根据威胁模型挑人，比如要找懂网络安全、会小语种或熟悉某地区政治的人。

## 推荐理由

OpenAI 公开两篇红队测试论文，一篇讲外部人类红队按威胁模型选人的流程设计，一篇讲用 AI 自动找茬，安全团队可参考其组队与反馈机制。

## 锐评

红队流程公开比红队这个词本身有用。按威胁模型挑人这条我信，要找懂网络安全、会小语种、熟悉某地区政治的人，风险本来就是分场景的，拉一批通用安全研究员覆盖不了。安全团队可以照这个组队思路抄。自动化那篇没给实验指标，先当方法论看，别当效果证明。
