Anthropic 派黑客 Nicholas Carlini 给美国政府演示怎么攻破自家模型,好让监管放心
The hacker sent by Anthropic to calm the government's nerves about AI safety
WSJ 报道,Anthropic 让安全研究员 Nicholas Carlini 去给美国政府官员现场演示越狱和模型攻击,想证明他们能管住 AI 的安全风险。Carlini 之前在 Google Brain,专门研究对抗样本和模型攻击。报道没说他具体展示了哪些攻击手法,也没提政府那边看完是什么反应。
推荐理由:Anthropic 派安全研究员 Nicholas Carlini 向美国政府官员现场演示越狱和模型攻击,用实际攻防说明公司如何应对 AI 安全风险。