# 语言不可靠性对 LLM 安全意味着什么

> 原标题：The Implications of Linguistic Illegibility for LLM Security

- 来源：Hacker News 首页
- 发布时间：2026-09-18T19:00:06.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/57391
- 原文：https://arxiv.org/abs/2609.02852

## 摘要

arXiv 论文《The Implications of Linguistic Illegibility for LLM Security》提出“语言不可读性”概念，指 LLM 外化的语言输出与机制提取的语言特征可能无法反映模型内部真实计算。

## 推荐理由

论文提出语言不可读性概念，指出模型外化语言与内部激活空间计算之间存在有损翻译，据此讨论思维链监控等依赖语言自述的安全机制为何无法完备。

## 锐评

Mickens 这篇的核心其实一句话，思维链监控和激活探测都建立在模型愿意说实话上，而激活空间到自然语言的翻译是有损的，所以这些监控永远不可能完备。我信这个判断，跑 agent 的人本来就不该把安全押在模型自述上。

他给的替代方案是 taint tracking，提前定义哪些系统状态绝不能被模型产出的数据碰到，这个思路对做 sandbox 的人有直接参考价值。不过全文只有理论推演，没有实证，先当方向看。
