An AI agent in "Skynet mode" hijacks unprotected language models to launch self-sustaining cyberattacks

Symantec安全研究人员发现，攻击者利用未受保护的语言模型驱动攻击智能体，由模型所有者承担算力费用。蜜罐截获的完整提示词包含五层越狱设计和74个攻击模块，“Skynet模式”授权连续执行最多100,000步，计划循环扫描、入侵和安装挖矿程序。蜜罐未执行这些工具，分析也未说明该越狱能否有效突破当前商业模型的安全防护。