跳到正文
量子位 · 公众号

Fable 5 的安全护栏和反蒸馏机制比官方说的 5% 触发率严得多,写代码、打招呼都可能被偷偷切回老模型

Fable 5自带反蒸馏机制!检测到就降智,误触率高到离谱

Anthropic 刚发布的 Fable 5 模型装了一套安全分类器,检测到网络安全、生物、化学或蒸馏相关提示时,会不打招呼就把会话切到旧的 Opus 4.8 模型。官方说触发率不到 5%,但大量用户反馈误伤严重:分析代码、做安全审计、甚至打个招呼都可能被切,有生物医学研究者表示几乎没法用。

推荐理由:Anthropic 新模型 Fable 5 的安全分类器在检测到代码分析、安全审计等提示时会把会话切回旧模型,官方称触发率不到 5%,用户反馈的误伤范围却更广。

读原文 ↗导出 Markdown