跳到正文
AI HOT 精选

工具调用代理的认知与行动脱节机制研究

工具使用代理认知与行动脱节机制研究

这篇可解释性论文专门研究了让模型调用工具的代理,发现一个挺要命的问题:模型经常心里知道该调工具了,但手上就是没动作。这种“知道却做不到”的比例在 26% 到 54% 之间,而且毛病全出在从认知到行动的过渡阶段,不是模型没看懂。内部探测显示,模型在后期层处理最后一个 token 时,会把信号转歪,转出来的方向几乎和要执行的动作正交,导致行动失败。

推荐理由:研究工具调用代理的可解释性论文发现,模型识别出该调工具却未执行的比例在 26% 到 54% 之间,问题出在认知到行动的过渡阶段,内部信号在后期层被转成了与动作近乎正交的方向。

读原文 ↗导出 Markdown