跳到正文
Hacker News 首页

Anthropic 派黑客 Nicholas Carlini 给美国政府演示怎么攻破自家模型,好让监管放心

The hacker sent by Anthropic to calm the government's nerves about AI safety

WSJ 报道,Anthropic 让安全研究员 Nicholas Carlini 去给美国政府官员现场演示越狱和模型攻击,想证明他们能管住 AI 的安全风险。Carlini 之前在 Google Brain,专门研究对抗样本和模型攻击。报道没说他具体展示了哪些攻击手法,也没提政府那边看完是什么反应。

推荐理由:Anthropic 派安全研究员 Nicholas Carlini 向美国政府官员现场演示越狱和模型攻击,用实际攻防说明公司如何应对 AI 安全风险。

读原文 ↗导出 Markdown