跳到正文
MIT Technology Review · AIWill Douglas Heaven

Goodfire研究员称神经网络可能更易理解,同行质疑其可解释性结论

“We were looking at it wrong”: The explosive claim that’s upended the AI world

Goodfire研究员Nick Cammarata提出,神经网络可能比此前认为的更容易理解,这一观点引发热烈反响与同行质疑。他重新检查Inception v1中同时响应汽车和猫的神经元,认为它识别的是两者共有的V形特征。Chris Potts、Jacob Hilton和Neel Nanda强调,理解单个神经元不等于理解完整电路,Cammarata团队对现代大语言模型的技术研究结果尚未发布。

读原文 ↗导出 Markdown