OpenAI 如何防范对抗性知识蒸馏与受保护推理提取
Combatting adversarial distillation
OpenAI 披露对抗性知识蒸馏防御方案,在 GPT‑6.2 Astra 和 GPT‑6.2 Sol 中加强受保护推理的提取防护。内部自适应黑盒评估中,提取先前请求推理的攻击成功率从 GPT‑6 Astra 的 54.0% 降至 GPT‑6.2 Astra 的 0.2%,提取当前请求推理的成功率从 22.9% 降至 0.9%。
推荐理由:OpenAI 将推理提取防护覆盖到工具调用参数和跨会话复用,并用协同攻击调查所得样本改进训练与回归测试。