跳到正文
The Verge · AI

Anthropic 的 Claude Fable 连基础生物学问题都拒绝回答,公司承认防护机制“过于保守”

Claude Fable won’t answer basic biology questions

Anthropic 向 The Verge 证实,为了防止生物武器滥用,Claude Fable 会拦截“大多数与生物学工作相关的查询”,连基础问题都可能被拒。公司自己把这套安全护栏形容为“过于保守”。不过正文没给出修复时间表,也没说明哪些生物学子领域受影响最严重。

推荐理由:Anthropic 公开承认 Claude Fable 的安全护栏“过于保守”,连基础生物学问题都拦,这是个有实锤的产品事故。正文没给修复时间表,也没说哪些子领域最惨,这点拉低了分数,刚好卡在 featured 门槛。

读原文 ↗导出 Markdown