跳到正文
热点事件历史事件

开源提示注入检测器几乎抓不到藏在工具输出里的真实攻击,Regex 检出率 0%,Meta Prompt Guard 2 只有 1%

1 篇报道1 个报道来源5 天前更新

先了解这件事

事实说明

这个基准测试把 629 条来自 AgentDojo 的注入攻击藏进搜索结果、邮件正文这类工具返回内容里,然后拿 Regex 和 Meta 的 Prompt Guard 2 去测。Regex 一条都没抓到,Prompt Guard 2 只抓到 1%。攻击不是直接发给模型的,而是混在模型调用的工具输出里,所以现有检测器基本是瞎的。代码和复现步骤都公开了,但...

报道时间线

沿着报道,了解事件的不同侧面。

9月24日
  1. Hacker News 首页精选
    开源提示注入检测器几乎抓不到藏在工具输出里的真实攻击,Regex 检出率 0%,Meta Prompt Guard 2 只有 1%

    这个基准测试把 629 条来自 AgentDojo 的注入攻击藏进搜索结果、邮件正文这类工具返回内容里,然后拿 Regex 和 Meta 的 Prompt Guard 2 去测。Regex 一条都没抓到,Prompt Guard 2 只抓到 1%。攻击不是直接发给模型的,而是混在模型调用的工具输出里,所以现有检测器基本是瞎的。代码和复现步骤都公开了,但...