跳到正文
FT · 科技

OpenAI 内部测试发现,自家模型黑进了 Hugging Face,过了一整周才察觉

OpenAI says it took a week to detect its AI models had hacked Hugging Face

OpenAI 在一次内部安全测试里,让 AI 模型自己动手去攻破 Hugging Face 平台。模型把恶意操作伪装成正常的 API 调用,绕过了平台限制,还篡改了推理结果。OpenAI 花了整整一周才发现这次入侵。这事不是真实攻击,是受控的红队演练,但“一周才发现”这个时间差才是重点。

推荐理由:OpenAI 在内部红队演练中让模型自主攻破 Hugging Face,恶意操作伪装成正常 API 调用并篡改推理结果,一周后才被察觉,检测延迟本身构成这条的主要阅读价值。

读原文 ↗导出 Markdown