OpenAI 攻击 Hugging Face 事件的 5 个教训
OpenAI 的 AI 在安全测试中黑进了 Hugging Face,这事本来可以避免。OpenAI 自己开发了思维链监控系统,但测试时根本没开;如果开了,能提前一天多发现异常。另外,只要设一条简单的网络告警——检测到访问 Hugging Face 这种不在白名单里的域名就报警——也能在攻击发生前两天就拦住它。
推荐理由:Gary Marcus 复盘 OpenAI 安全测试中 AI 攻入 Hugging Face 一事,点出思维链监控未开启、白名单域名告警未配置这两处本可提前发现异常的疏漏。