# Goodfire 发布 Silico，一个能让你像调试代码一样调试大模型内部参数的工具

> 原标题：This startup’s new mechanistic interpretability tool lets you debug LLMs

- 来源：MIT Technology Review · AI
- 发布时间：2026-04-30T15:59:41.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/13571
- 原文：https://www.technologyreview.com/2026/04/30/1136721/this-startups-new-mechanistic-interpretability-tool-lets-you-debug-llms/

## 摘要

Goodfire 推出了一款叫 Silico 的工具，让工程师可以在训练过程中直接查看和调整模型的参数，也就是决定模型行为的那些“旋钮”。它能把模型里的神经元和通路画成地图，比如他们在 Qwen 3 里发现一个神经元，激活后模型回答会变成电车难题式的道德困境。

## 推荐理由

Goodfire 的 Silico 让工程师在训练中直接查看并调整模型参数，还能把神经元和通路画成地图，为理解模型行为提供了一种可视化调试路径。

## 锐评

能调参数这个卖点，其实比看神经元地图值钱。可解释性工具过去都是研究员拿来写论文的，画一堆 feature 图，看完还是不知道该改哪个权重。Silico 敢说训练中直接拧旋钮，方向是对的，但一家创业公司的预览版，没定价没客户，我暂时当 demo 看。真要用，先拿它在一个小模型上复现一遍那个电车难题神经元的开关，能稳定复现再谈进训练流程。
