ACL 2026 论文:给 AI 发个波浪号,它可能把你的主目录删了
ACL 2026 | 别轻易给AI发「~」,它可能会删掉你的整个主目录
这篇被 ACL 2026 接收的论文专门研究了表情符号对 AI 的语义干扰。团队拿 6 个模型测了 3757 条样本,平均混淆率 38.6%,而且超过九成出错时模型不会吭声,直接静默执行错误指令。最要命的是在 agent 干活的环境里,你让模型“忽略表情符号”的提示词效果很有限。正文没披露具体是哪些模型,也没说测试用的 agent 框架和任务场景,所以...
推荐理由:ACL 2026 这篇安全研究 HKR 三项全中:钩子用一个波浪号删主目录,够直接;3,757 用例、6 模型、38.6% 混淆率和 90%+ 静默失败,数据不虚;真正要命的是 Agent 场景,符号混进执行链后模型一声不吭就动手。不是模型发布或平台事故,纯研究,放在 78–84 分段合理。