# Goodfire 发布 Silico，一个能让你像调试代码一样调试大模型内部参数的工具

> 原标题：This startup’s new mechanistic interpretability tool lets you debug LLMs

- 来源：MIT Technology Review · AI
- 发布时间：2026-04-30T15:59:41.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/13571
- 原文：https://www.technologyreview.com/2026/04/30/1136721/this-startups-new-mechanistic-interpretability-tool-lets-you-debug-llms/

## 摘要

Goodfire 推出了一款叫 Silico 的工具，让工程师可以在训练过程中直接查看和调整模型的参数，也就是决定模型行为的那些“旋钮”。它能把模型里的神经元和通路画成地图，比如他们在 Qwen 3 里发现一个神经元，激活后模型回答会变成电车难题式的道德困境。Silico 用智能体自动完成了大量原本需要人工做的可解释性工作，目标是让模型开发少点炼丹味，...

## 推荐理由

HKR 三项都成立：Silico 给出了一个可操作的机械可解释性调试手段。分数停在 76，因为目前只是一家创业公司的产品预览，正文没披露定价，也没有任何实际部署规模或客户数量的数据，所以我会先打个折，不往更高里推。

## 锐评

Goodfire 把“机械式可解释性”做成了产品，让工程师在训练时就能看到并拧动模型内部的“旋钮”，而不是训完再猜哪里出了问题。他们用智能体自动完成了大量原本靠人工做的神经元和通路分析，比如在 Qwen 3 里找到一个神经元，激活后模型会强行把回答扭成电车难题。这比事后审计进了一步，目标是让模型开发少点炼丹味。

不过，文章没披露 Silico 的具体收费方式，只说按案例定价。这意味着成本可能不低，小团队未必用得起。另外，所有演示都基于 Qwen 这类开源模型，在 GPT 或 Gemini 等闭源大模型上能挖多深、调多准，正文也没提。工具的实际效果还缺第三方验证，目前只有 Goodfire 自己的说法。