跳到正文
Hacker News 首页

一个能逐层查看并编辑 AI 模型“内心想法”的浏览器工具

Show HN: I built a web tool to see and edit what an AI thinks before it answers

Lucid 让你在浏览器里输入一句话,就能看到 Qwen、Pythia 这类小模型在张嘴回答前,每一层网络里哪些概念被激活了。它用了一种叫 Jacobian lens 的方法,跑一次前向传播就能出结果,不用注册也不用安装。作者借用了 Anthropic 的 J-space 框架,把模型内部可被报告的表征当成一个“全局工作区”。

推荐理由:作者把 Jacobian lens 做成了浏览器工具,输入一句话就能逐层查看 Qwen、Pythia 这类小模型回答前激活了哪些概念,无需注册安装,一次前向传播即可出结果。

读原文 ↗导出 Markdown