神经网络本已清晰?研究者重新审视多义神经元与叠加假说
文章提出,神经网络中许多被视为任意概念混合的现象可用递归泛化解释,直接研究神经元与电路可能比预想更可行。研究者重新检查 InceptionV1 的猫脸与汽车神经元,将其解释为共享的 V 形模式,并在压缩网络的实验中观察到神经元概念变粗。对 Qwen3-32B 的初步审查估计,约 90% 的神经元极具有一个主要作用,但比例依赖阈值设定,文章将大规模可解释性的前景明确列为推测。
推荐理由:文章通过追踪神经元训练过程与检查正负激活,给出了区分递归泛化、工具误差和学习失败的具体研究路径。