跳到正文
Hacker News 首页

英伟达发布硬件看门狗芯片,能在几毫秒内掐断失控的 AI 代理

Nvidia wants to put a watchdog chip next to every AI agent

英伟达推出了一个叫 Open Agent Safety Platform 的安全方案,分两层:软件层 OpenShell 是开源的,能追踪代理的每一步操作并强制设限;硬件层 Sentry 是一块独立于主芯片的 BlueField-4 参考设计,相当于一个外部裁判,一旦代理越界,能在几毫秒内把它隔离并停掉。这套控制机制不放在模型内部,所以代理没法靠说话或...

推荐理由:英伟达这个方案把代理安全从软件承诺升级成了硬件强制,两层设计讲得清楚,还有两家头部公司背书,HKR 全中。没给更高分是因为目前只有一篇博客报道,没有英伟达官方技术白皮书或实测数据,硬件延迟、误判率、量产成本这些关键信息都还没披露,先打个折。

读原文 ↗导出 Markdown