跳到正文
彭博科技

英伟达推出 AIQ 护栏系统,在 AI 智能体每次行动前做安全检查

Nvidia Debuts System Meant to Stop AI Agents From Going Awry

英伟达发布了一个叫 AIQ 的安全护栏系统,专门给那些能自主执行任务的 AI 智能体(agent)用。它的工作方式是在模型每次要花钱、发指令或碰敏感数据之前先拦一道,检查会不会超预算、泄露数据或执行危险操作。英伟达说自己内部已经用了两年,现在开放给企业客户。不过正文没披露定价和具体上线时间,这点先别太激动。

推荐理由:英伟达发布 AIQ,一个给 agent 用的安全护栏,拦截点明确、有两年内部使用背书,对正在落地 agent 的团队是直接可用的信号。扣分在没披露定价和上线时间,目前还只是发布消息,没法评估实际效果。

读原文 ↗导出 Markdown