OpenAI 公开两篇红队测试论文：一篇讲怎么请外部专家找茬，一篇讲怎么用 AI 自动找茬

Advancing red teaming with people and AI

OpenAI 在 2024 年 11 月 21 日发了两篇论文，把自家红队测试（就是找人来攻击模型、挖风险）的方法摊开来讲。第一篇白皮书专门说外部人类红队的流程，讲了三个具体设计选择：一是根据威胁模型挑人，比如要找懂网络安全、会小语种或熟悉某地区政治的人；二是给测试员看哪个版本的模型，没加安全措施的早期版本能测出新能力带来的风险，加了措施的版本能测防护...

推荐理由：我会先打个折：正文对自动化红队的实验指标和效果摘录不全，这点先别太激动。但 OpenAI 这次把外部红队怎么组队、怎么分配模型版本、怎么收反馈这三件事说清楚了，流程比“红队”这个词本身值钱。如果是真的按威胁建模来组队，安全团队可以直接抄作业。