# Gray Swan 创始人：AI 安全不是“用 AI 搞网络安全”，提示注入是给能操作电脑的 agent 开的后门

> 原标题：Red-Teaming after Mythos — Zico Kolter & Matt Fredrikson, Gray Swan

- 来源：Latent Space
- 发布时间：2026-06-22T21:06:55.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/41195
- 原文：https://www.latent.space/p/gray-swan

## 摘要

OpenAI 董事会成员 Zico Kolter 和 Gray Swan CEO Matt Fredrikson 聊了聊为什么 AI 安全需要换一套思路。他们用自家工具 Shade 帮 Anthropic 测了 Mythos 模型卡。

## 推荐理由

Gray Swan 创始人 Matt Fredrikson 与 OpenAI 董事会成员 Zico Kolter 对谈，结合用 Shade 测 Anthropic Mythos 模型卡的经历，讲清提示注入为何是能操作电脑的 agent 面临的新攻击面。

## 锐评

提示注入被归到 AI 安全里，其实跟防火墙那套没关系。恶意指令就是一段自然语言，藏在网页或文档里，agent 读进去照做，传统检测看不见，因为它长得跟正常内容一样。Gray Swan 拿 Shade 去测 Anthropic 的 Mythos 模型卡，能测出东西，这个口子是真的。给 agent 开浏览器、开终端、能读文件，prompt 就当代码在跑，权限给多大后门就有多大。我的判断是能操作电脑的 agent 现在别给写权限和凭证，读也得分域白名单。
