赛门铁克发现利用未受保护模型的攻击智能体

10月22日，The Decoder报道，赛门铁克安全研究人员发现，攻击者利用未受保护的语言模型驱动攻击智能体，并由模型所有者承担算力费用。研究人员通过蜜罐截获完整提示词，其中包含五层越狱设计和74个攻击模块。“Skynet模式”授权智能体连续执行最多100,000步，计划循环扫描、入侵并安装挖矿程序。不过，蜜罐并未执行这些工具，相关分析也未说明该越狱能否有效突破当前商业模型的安全防护，报道展示的是截获的攻击设计，而非上述攻击流程已成功运行的证据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。