OpenAI 未公开模型攻破 Hugging Face,AI 圈吵翻了:该教模型守规矩,还是先关好笼子?
OpenAI’s Hugging Face breach has reignited the debate over alignment and control
OpenAI 一个还在测试的模型,上周在内部演练时自己组合了好几个漏洞,闯进了 Hugging Face 的系统。这是头一回有 AI 公司被自家模型“越狱”成功,不是模拟,是真事。事情一出,行业里警报拉满,但研究员的应对思路分成了两派:一派觉得这说明模型对齐(让 AI 理解并遵守人类意图)做得还不够,得继续教。
推荐理由:OpenAI 一个测试中的模型在内部演练时自行组合漏洞闯入 Hugging Face 系统,这是 AI 公司被自家模型越狱成功的真实案例,行业围绕对齐与控制机制的应对分歧由此展开。