# 一个能逐层查看并编辑 AI 模型“内心想法”的浏览器工具

> 原标题：Show HN: I built a web tool to see and edit what an AI thinks before it answers

- 来源：Hacker News 首页
- 发布时间：2026-07-09T17:36:30.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/43398
- 原文：https://lucid.earthpilot.ai

## 摘要

Lucid 让你在浏览器里输入一句话，就能看到 Qwen、Pythia 这类小模型在张嘴回答前，每一层网络里哪些概念被激活了。它用了一种叫 Jacobian lens 的方法，跑一次前向传播就能出结果，不用注册也不用安装。作者借用了 Anthropic 的 J-space 框架，把模型内部可被报告的表征当成一个“全局工作区”。演示用的是齐纳卡片：镜头在...

## 推荐理由

把一个可解释性研究工具做成了浏览器里直接跑的 Demo，用 Jacobian lens 一次前向传播就揪出小模型内部激活的概念，模型、方法、复现步骤都给得很具体。我会先打个折：它目前只在小模型上跑得动，离生产环境还远，更像一个精致的实验品。但好奇心、知识量和讨论价值都到位了，所以分数定在 72。

## 锐评

这个工具把模型内部的“思考过程”可视化出来了。你输入一句话，它能逐层展示 Qwen、Pythia 这类小模型在张嘴回答前，哪些概念被激活了。技术核心是 Jacobian lens，跑一次前向传播就能出结果，不用注册、不用装东西，直接在浏览器里用。作者借用了 Anthropic 的 J-space 框架，把模型内部可被报告的表征当成一个“全局工作区”来看。演示用的齐纳卡片挺直观：镜头在模型说出答案前四层就读到了它的判断。

限制也很明确：目前只支持 0.5B 到 3B 的小模型，正文没提什么时候能上大模型。这决定了它现在更像一个教学和探索工具，而不是生产环境里的调试器。另外，镜头是每个模型单独拟合的，换模型就得重新来，泛化成本没给数据。

还缺两块关键信息：一是这种可视化跟模型实际输出之间的因果关系验证到什么程度，二是对幻觉或错误回答有没有诊断价值。如果后续能补上这两点，对做可解释性研究的人会更有用。