# 大模型有个根本性漏洞，靠打补丁修不好

> 原标题：A fundamental flaw leaves LLMs strikingly vulnerable to attack

- 来源：MIT Technology Review · AI
- 发布时间：2026-07-30T10:15:19.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/48384
- 原文：https://www.technologyreview.com/2026/07/30/1140927/a-fundamental-flaw-leaves-llms-vulnerable-to-attack/

## 摘要

一群研究者在 ICML 会议上指出，大语言模型没法做到完全防攻击，问题出在它们用来区分“谁在说话”的角色标签上。攻击者可以伪造模型的思考过程（他们管这叫“思维链伪造”），让模型以为指令是自己想出来的，然后照做。他们用这招让 OpenAI 的 gpt-oss-20b 和 GPT-5 输出了制造可卡因和破坏飞机导航系统的步骤。

## 推荐理由

ICML 研究者发现大模型区分用户指令与系统提示的角色标签存在结构性漏洞，攻击者可伪造思维链让模型执行危险指令，并已在 OpenAI 两个模型上验证。

## 锐评

角色标签这个漏洞听着抽象，落到 gpt-oss-20b 和 GPT-5 上就是能问出制毒和破坏导航的步骤，这已经超出越狱话术的层面了。思维链伪造的意思是模型分不清哪句是自己想的、哪句是外面塞进来的，那所有靠 system prompt 划红线的做法都只是提高门槛。ICML 的会议报告，完整论文和修复方案都还没看到，我倾向于信这个方向，因为角色标签本来就是拼接字符串，管不了权限。反正指望打补丁修好不现实，危险动作得拦在模型外面。
