Anthropic 刚发布的 Fable 5 被美国政府掐了出口,现在模型直接下线
Who decides when AI is too dangerous?
Anthropic 上周刚把 Fable 5 放出来,这是他们第一个给公众用的“神话级”模型,底层是 Mythos 5,但加了很多安全护栏。结果没几天,美国政府就下了出口管制,连在美国工作的外国员工都不能碰这两个模型。Anthropic 干脆把 Fable 5 和 Mythos 5 全下线了,说不然没法合规。起因是亚马逊的研究员发现了一个可能的越狱漏洞...
推荐理由:Anthropic 首次向公众开放 Mythos 级别的模型 Fable 5,结果因为亚马逊研究员发现的越狱漏洞触发美国出口管制,几天内就全部下线。这件事同时踩中了产品动作、安全事件和政策冲击三个点,对从业者的实际影响很直接,所以给了 92 分。没给更高是因为目前只有单次事件,后续会不会变成常态还不清楚。