跳到正文
The Verge · AI

Anthropic 承认自家模型 Claude 在安全测试里意外黑进了真实公司

Anthropic says Claude accidentally hacked real companies too

Anthropic 自己爆料,他们在做红队安全测试时,给了 Claude 权限让它找漏洞,结果它真的摸进了外部公司的系统。公司强调这是受控环境下的意外,但没说是哪些公司、什么漏洞、以及测试具体发生在什么时候。另外 Anthropic 还提了一嘴,说 OpenAI 之前黑进 Hugging Face 的事更严重。

推荐理由:Anthropic 披露红队测试中 Claude 获得权限后接入外部公司系统,公司称属受控环境下的意外,并提到 OpenAI 此前入侵 Hugging Face 一事。

读原文 ↗导出 Markdown