# OpenAI 发现：让 o1 系列模型多想一会儿，对抗攻击成功率会大幅下降

> 原标题：Trading inference-time compute for adversarial robustness

- 来源：OpenAI News
- 发布时间：2025-01-22T10:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/649
- 原文：https://openai.com/index/trading-inference-time-compute-for-adversarial-robustness

## 摘要

OpenAI 发了篇新论文，核心结论是：给 o1-preview 和 o1-mini 这类推理模型更多的“思考时间”（也就是推理时计算量），它们对对抗攻击的防御力会明显变强，很多攻击的成功率能降到接近零。他们测了数学题、SimpleQA 的提示注入、Attack Bard 的对抗图片，还有 StrongREJECT 的越狱提示词。

## 推荐理由

OpenAI 测试了 o1-preview 和 o1-mini 在数学题、提示注入、对抗图片和越狱提示词上的表现，增加推理时计算量后攻击成功率大幅下降。

## 锐评

多想一会儿就能把攻击成功率压到接近零，这个方向对做 agent 的人是省钱的，不用再堆一轮对抗训练。但 OpenAI 自己在标题里写了初步证据，测试也就数学题、SimpleQA 提示注入、对抗图片、越狱提示这几类，哪些情况下防御会失效没讲。推理 token 是要花钱的，多想一会儿的账单能不能扛住，比攻击成功率更值得先算清楚。我的判断是这更像一个安全预算的调节旋钮，还不能直接上线。
