Goodfire 发布 Silico,一个能让你像调试代码一样调试大模型内部参数的工具
Goodfire 推出了一款叫 Silico 的工具,让工程师可以在训练过程中直接查看和调整模型的参数,也就是决定模型行为的那些“旋钮”。它能把模型里的神经元和通路画成地图,比如他们在 Qwen 3 里发现一个神经元,激活后模型回答会变成电车难题式的道德困境。
推荐理由:Goodfire 的 Silico 让工程师在训练中直接查看并调整模型参数,还能把神经元和通路画成地图,为理解模型行为提供了一种可视化调试路径。