Anthropic 说他们基本搞定了提示注入攻击,Claude Code 下周默认开自动模式
Anthropic 称已基本解决提示注入攻击
Anthropic 的 Boris Cherny 放话,通过模型训练加上多层防御,Claude 面对没见过的间接提示注入攻击,成功率已经压到接近零。这个数字来自独立研究者的基准测试,防御手段包括模型本身训练、输入探测和意图分类器,不是单靠某一招。不过正文没披露具体防御架构和测试范围,这点先别太激动。
推荐理由:Anthropic 的 Boris Cherny 称通过模型训练与多层防御,Claude 对未见过的间接提示注入攻击成功率已接近零,该数字来自独立研究者的基准测试。