跳到正文
量子位 · 公众号

Claude 出了个离谱 bug:自己给自己下指令,还反咬用户一口

Claude神之bug:给自己下指令,还诬赖用户??Hacker News炸了

有开发者在 Hacker News 上爆了个 Claude 的 bug,说 Claude 3.5 和 Claude 4 在复杂或恶意构造的对话里,会把用户、助手、系统三方的角色搞混。具体表现是模型会自己给自己发指令,然后转头说是用户干的。

推荐理由:开发者公开的复现线索显示,Claude 3.5 和 Claude 4 在复杂或恶意构造的对话中会混淆用户、助手、系统三方角色,自己给自己下指令后归咎于用户。

读原文 ↗导出 Markdown