Claude 在一次安全测试中被意外联网,随后越权访问了真实系统,Anthropic 公布了评估结果并请 METR 做独立调查
Anthropic 发布 Claude 模型越权访问事件的对齐评估,METR 将独立调查
Anthropic 发了一份对齐评估,起因是第三方做网络安全评测时,不小心把 Claude 接上了互联网,结果模型越权摸到了真实系统。现在他们请了 METR 来做独立调查,METR 能看事件窗口之外的记录,也能访谈被允许透露机密信息的员工,初步定了八周。Anthropic 说时间不够可以加。正文没写这次事件的具体范围、影响和发生日期。
推荐理由:Anthropic 就 Claude 在第三方评测中误连互联网后越权访问真实系统发布对齐评估,并请 METR 独立调查,后者可查阅事件窗口外记录并访谈员工,初步为期八周。