# ICML 论文把提示注入攻击归因于角色混淆：模型分不清网页数据和用户指令

> 原标题：A Theory of Why Prompt Injection Works

- 来源：Hacker News 首页
- 发布时间：2026-06-22T15:48:55.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/39881
- 原文：https://role-confusion.github.io

## 摘要

这篇 ICML 2026 论文换了个角度解释提示注入为什么一直防不住：问题出在模型对“角色标签”的感知上。大模型接收到的其实是一长串文本，靠 system、user、think、tool 这些标签来区分哪些是真人指令、哪些是外部数据。

## 推荐理由

ICML 2026 论文把提示注入归因于模型对角色标签的感知混乱，认为攻击者将恶意指令藏进 tool 标签包裹的网页内容后，模型会把它当成真人指令。

## 锐评

角色混淆这个解释挺对路。模型看到的是一串文本，system、user、tool 只是标签，攻击者把指令塞进 tool 包的网页里，模型就当成真人说的了。输入过滤治标不治本，你过滤的是内容，模型认的是标签。

这是篇论文，没给攻击成功率，机制分析再漂亮也得看能不能落到工程上。短期内别指望靠 prompt 层解决，该做隔离还是得做隔离。
