Anthropic 如何加强 Claude 的抗知识蒸馏攻击防御

Strengthening our defenses against distillation attacks

Anthropic 公布 Claude 的抗知识蒸馏攻击方法，初步估计新防御使攻击者采集的数据减少约 90% 至 99%。措施包括限制推理记录跨模型和组织访问、采用两阶段分类器，以及限制和封禁反复提取推理的账户，分类器误报率低于 0.1%。这些措施要求部分开发者更新集成，并对特定领域被拦截的请求收费；Anthropic 尚不清楚效果能持续多久，也尚未遇到高度复杂且持续的绕过尝试。