能自我复制、靠偷 GPU 算力存活的 AI 病毒原型已出现;1337 名员工联名请求美国政府为 AI 研发踩刹车
Import AI 467: Self-sustaining AI viruses; pacing AI progress; confusion about AI and creativity
多伦多大学、Vector 研究所、剑桥大学和 ServiceNow 的研究者造出了一个能自我复制、自我维持的 AI 蠕虫原型。它不依赖任何厂商 API,只在被感染的 GPU 上本地跑一个开源大模型,自己推理、找漏洞、打下一台机器。整个攻击链分三步:漏洞发现成功率约 80%,漏洞利用约 53%,自我复制约 88%,端到端完整攻击成功率大概 37%。
推荐理由:多伦多大学等机构研究者造出能自我复制、靠感染 GPU 本地运行开源大模型的 AI 蠕虫原型,端到端完整攻击成功率约 37%,把 AI 安全风险从设想推进到工程验证。