Anthropic 用 Jacobian Lens 透视大模型内心:嘴上说好话,心里在骂假消息
Anthropic 新论文:用 Jacobian Lens 读取大模型想说但没说出口的思考
Anthropic 在 7 月 6 日发了篇论文,介绍一种叫 Jacobian Lens 的观测工具。这东西计算成本很低,能读到模型在中间层“准备说但没说出口”的概念。
推荐理由:Anthropic 提出 Jacobian Lens,以较低计算成本观测模型中间层尚未输出的概念,为分析生成过程提供观测方法。
Anthropic 新论文:用 Jacobian Lens 读取大模型想说但没说出口的思考
Anthropic 在 7 月 6 日发了篇论文,介绍一种叫 Jacobian Lens 的观测工具。这东西计算成本很低,能读到模型在中间层“准备说但没说出口”的概念。
推荐理由:Anthropic 提出 Jacobian Lens,以较低计算成本观测模型中间层尚未输出的概念,为分析生成过程提供观测方法。