跳到正文
Hacker News 首页

英伟达发布硬件看门狗芯片,能在几毫秒内掐断失控的 AI 代理

Nvidia wants to put a watchdog chip next to every AI agent

Nvidia 发布 Open Agent Safety Platform,包含开源软件 OpenShell 和运行在 BlueField-4 DPU 上的参考设计 Sentry,后者可校验智能体身份并在其越界时毫秒级隔离停止。

推荐理由:英伟达推出 Open Agent Safety Platform,把代理安全控制放在模型之外的 BlueField-4 芯片上,越界时毫秒级隔离停止,为理解代理失控风险提供了一种硬件层面的应对思路。

读原文 ↗导出 Markdown