英伟达发布新平台,给 AI 智能体加装独立安全层防止越狱
Nvidia launches new platform for reining in rogue AI agents
Nvidia CEO 黄仁勋发布 Nvidia Open Agent Safety Platform,由开源软件 OpenShell 与运行在 BlueField-4 DPU 上的独立监控系统 Sentry 组成,为 AI 智能体加装独立安全层,使其即使尝试越界也留在测试环境中。
推荐理由:英伟达发布 Open Agent Safety Platform,由开源软件 OpenShell 与运行在 BlueField-4 DPU 上的独立监控系统 Sentry 组成,为智能体提供独立于其自身的安全层。