跳到正文
Hacker News 首页

Brex 开源 CrabTrap:给 AI 智能体加一个 HTTP 代理,用 LLM 当裁判实时拦截危险请求

CrabTrap: An LLM-as-a-judge HTTP proxy to secure agents in production

Brex 把内部用的安全工具 CrabTrap 开源了。它本质上是一个 HTTP 代理,插在你的 AI 智能体和外部服务之间,每次智能体要发请求都得先过它这关。它会对照你写的安全策略做判断,允许或拦截,而且判断方式分两条路:先走静态规则直接匹配,匹配不上再交给一个 LLM 裁判来拍板。后台日志会标清楚每个决定是规则拦的,还是模型判的。

推荐理由:Brex 将内部安全工具 CrabTrap 开源,它在智能体与外部服务之间加一层 HTTP 代理,请求先经静态规则匹配,未命中再交由 LLM 裁判决定放行或拦截。

读原文 ↗导出 Markdown