语言不可靠性对 LLM 安全意味着什么
The Implications of Linguistic Illegibility for LLM Security
arXiv 论文《The Implications of Linguistic Illegibility for LLM Security》提出“语言不可读性”概念,指 LLM 外化的语言输出与机制提取的语言特征可能无法反映模型内部真实计算。
推荐理由:论文提出语言不可读性概念,指出模型外化语言与内部激活空间计算之间存在有损翻译,据此讨论思维链监控等依赖语言自述的安全机制为何无法完备。