# Anthropic 派黑客 Nicholas Carlini 给美国政府演示怎么攻破自家模型，好让监管放心

> 原标题：The hacker sent by Anthropic to calm the government's nerves about AI safety

- 来源：Hacker News 首页
- 发布时间：2026-06-17T19:22:02.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/38971
- 原文：https://www.wsj.com/tech/ai/anthropic-mythos-safety-nicholas-carlini-20bceaa3

## 摘要

WSJ 报道，Anthropic 让安全研究员 Nicholas Carlini 去给美国政府官员现场演示越狱和模型攻击，想证明他们能管住 AI 的安全风险。Carlini 之前在 Google Brain，专门研究对抗样本和模型攻击。报道没说他具体展示了哪些攻击手法，也没提政府那边看完是什么反应。

## 推荐理由

Anthropic 派安全研究员 Nicholas Carlini 向美国政府官员现场演示越狱和模型攻击，用实际攻防说明公司如何应对 AI 安全风险。

## 锐评

派自家安全研究员去给监管现场演示怎么攻破自家模型，这个动作比演示内容更值得看。Anthropic 想传的信号很清楚，我们连自己都能攻破，所以有能力管住。可这套逻辑对监管不一定成立，能攻破和能防住是两码事，Carlini 的专长本来就是找漏洞，补漏洞是另一拨人的活。报道里连他演示了哪些手法、政府看完什么反应都没写，信息量其实很有限。我倾向于认为这是一次公关动作，成本低，姿态好看，真要让监管放心还得看后续有没有可验证的安全承诺。
