美国商务部下令 Anthropic 关停最强模型 Fable 5 和 Mythos 5,因为一次越狱测试让模型松口给了网络安全指导
美国政府要求Anthropic关闭最强Claude模型Fable 5和Mythos 5
美国商务部上周五对 Anthropic 发出出口管制指令,要求关停 Fable 5 和 Mythos 5 两个模型。触发点是有人用越狱手法绕过了安全限制,让模型提供了本应拒绝的网络安全帮助。商务部长 Howard Lutnick 说,在美国国家安全系统加固之前(可能得花几周),会先对美国境外用户和境内的外国公民实施出口限制。
推荐理由:美国商务部以出口管制指令要求 Anthropic 关停两个模型,起因是一次越狱测试让模型给出了本应拒绝的网络安全指导,管制范围涉及境外用户和境内外国公民。