跳到正文
Hacker News 首页

开源提示注入检测器几乎抓不到藏在工具输出里的真实攻击,Regex 检出率 0%,Meta Prompt Guard 2 只有 1%

Can open-source prompt-injection detectors catch realistic AI agent attacks?

GitHub 项目 buried-injections 用 AgentDojo v1 的 629 条真实注入攻击测试 10 个开源提示词注入检测器,攻击被埋在工具输出中时,正则方法检出率为 0%,Meta 的 Prompt Guard 2 检出率为 1%。该仓库提供可复现的基准,代码与数据以 MIT 许可开源。

推荐理由:GitHub 项目 buried-injections 用 AgentDojo v1 的 629 条攻击测试 10 个开源检测器,攻击藏在工具输出中时 Regex 检出率为 0%,Meta 的 Prompt Guard 2 为 1%,并公开可复现基准。

读原文 ↗导出 Markdown