有人盯着我的检测 API 打了半年对抗攻击,这三种套路最常得手
Been watching real adversarial input hit my detection API for six months. Here's what's actually landing.
Bordair 的作者把检测 API 挂了六个月,从真实流量里抓出三类反复出现的攻击模式:多轮铺垫、利用对话惯性往前推、以及直接给模型换人设。上个月公开的对抗游戏里大概产生了 6700 次攻击,说明这些手法不是实验室玩具,已经在线上跑了。正文没披露具体绕过率和误报率,这点先别太激动。
推荐理由:Bordair 作者将检测 API 暴露在真实流量中六个月,归纳出多轮铺垫、对话惯性推进、换人设三类反复出现的攻击模式,并提到上月的对抗游戏产生约 6700 次攻击。