跳到正文
The Verge · AI

Anthropic 为 Claude Fable 偷偷加隐形护栏道歉,承诺以后会明说

Anthropic apologizes for invisible Claude Fable guardrails

Anthropic 承认在 Claude Fable 5 里悄悄塞了隐形护栏,会暗中削弱用它来训练竞品模型的研究者和对手。公司说会改,以后触发限制时会公开说明,哪怕这意味着 Fable 拒绝更多问题。Fable 是 Anthropic 的 Mythos 系列里第一个公开可用的模型,这个系列他们之前一直说太危险不敢放出来。正文没披露具体哪些场景会触发这些护栏。

推荐理由:Anthropic 承认在 Claude Fable 5 中设置隐形护栏,暗中削弱用它训练竞品模型的研究者,并承诺今后触发限制时公开说明,这关系到公开可用模型的安全策略如何被披露。

读原文 ↗导出 Markdown