# 一个能逐层查看并编辑 AI 模型“内心想法”的浏览器工具

> 原标题：Show HN: I built a web tool to see and edit what an AI thinks before it answers

- 来源：Hacker News 首页
- 发布时间：2026-07-09T17:36:30.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/43398
- 原文：https://lucid.earthpilot.ai

## 摘要

Lucid 让你在浏览器里输入一句话，就能看到 Qwen、Pythia 这类小模型在张嘴回答前，每一层网络里哪些概念被激活了。它用了一种叫 Jacobian lens 的方法，跑一次前向传播就能出结果，不用注册也不用安装。作者借用了 Anthropic 的 J-space 框架，把模型内部可被报告的表征当成一个“全局工作区”。

## 推荐理由

作者把 Jacobian lens 做成了浏览器工具，输入一句话就能逐层查看 Qwen、Pythia 这类小模型回答前激活了哪些概念，无需注册安装，一次前向传播即可出结果。

## 锐评

Jacobian lens 一次前向传播就能出结果，这个才是能玩起来的原因，可解释性工具以前慢到没人愿意天天开。但只跑得动 Qwen、Pythia 这类小模型，离生产还差得远，大模型上那套激活模式未必长一个样。我信它能帮人建立直觉，不信它能直接拿来 debug 线上 agent。当教学玩具挺好，真要看自家模型内部，还是得自己搭。
