跳到正文
Import AI

能自我复制、靠偷 GPU 算力存活的 AI 病毒原型已出现;1337 名员工联名请求美国政府为 AI 研发踩刹车

Import AI 467: Self-sustaining AI viruses; pacing AI progress; confusion about AI and creativity

多伦多大学、Vector 研究所、剑桥大学和 ServiceNow 的研究者造出了一个能自我复制、自我维持的 AI 蠕虫原型。它不依赖任何厂商 API,只在被感染的 GPU 上本地跑一个开源大模型,自己推理、找漏洞、打下一台机器。整个攻击链分三步:漏洞发现成功率约 80%,漏洞利用约 53%,自我复制约 88%,端到端完整攻击成功率大概 37%。这个数...

推荐理由:研究者造出了一个能自我复制、自我维持的 AI 蠕虫原型,端到端成功率 37%,把 AI 安全从理论推到了工程验证这一步。数字不算高,离真实爆发还远,所以没给 85 分以上,但方向很明确,值得从业者现在就盯着。

读原文 ↗导出 Markdown