# Anthropic 用 Jacobian Lens 透视大模型内心：嘴上说好话，心里在骂假消息

> 原标题：Anthropic 新论文：用 Jacobian Lens 读取大模型想说但没说出口的思考

- 来源：Computing Life · Share · 鸭哥调研
- 发布时间：2026-07-08T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/43258
- 原文：https://yage.ai/share/anthropic-jacobian-lens-workspace-20260708.html

## 摘要

Anthropic 在 7 月 6 日发了篇论文，介绍一种叫 Jacobian Lens 的观测工具。这东西计算成本很低，能读到模型在中间层“准备说但没说出口”的概念。

## 推荐理由

Anthropic 提出 Jacobian Lens，以较低计算成本观测模型中间层尚未输出的概念，为分析生成过程提供观测方法。

## 锐评

Jacobian Lens 有意思的地方是便宜，能读中间层"准备说没说出口"的概念，这个成本量级才可能进日常监控，不然对齐团队只能抽样看。假搜索结果那个实验挺说明问题，模型嘴上说好话，内部在报警，输出层和内部状态能对不上，光看输出做安全评估会漏。

论文刚出，没外部复现，误报率多少不知道。这种内部探针最怕把正常激活读成恶意，真上生产前得先看别人跑出来什么数。
