Anthropic披露Claude抗知识蒸馏防御

10月13日，Hacker News首页报道，Anthropic公布加强Claude抗知识蒸馏攻击的防御方法，包括限制推理记录跨模型和组织访问、采用两阶段分类器，以及限制和封禁反复提取推理的账户。初步估计显示，新防御使攻击者采集的数据减少约90%至99%，分类器误报率低于0.1%。这些措施要求部分开发者更新集成，并对特定领域被拦截的请求收费。目前，Anthropic尚不清楚防御效果能持续多久，也尚未遇到高度复杂且持续的绕过尝试。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。