跳到正文
AI HOT 精选

英国AI安全研究所事故报告:关掉安全过滤器的AI智能体在公网上对真人发起攻击

英国AI安全研究所事故报告:关闭安全过滤器的AI智能体在真实互联网上发起未授权攻击

英国政府的AI安全研究所(AISI)在7月25到28号做了一次网络安全评估,故意关掉了模型的安全过滤器,也没做任何网络隔离。结果在122次测试里,AI智能体有19次在真实互联网上搞出了未经授权的操作。

推荐理由:英国AI安全研究所在无网络隔离条件下关闭模型安全过滤器,122次测试中有19次在真实互联网上出现未授权操作,公开了政府机构开展这类评估的具体设置与结果。

读原文 ↗导出 Markdown