# Goodfire 提出神经网络已具可解释结构，智能体分析挑战多义性解释

> 原标题：[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment

- 来源：Latent Space
- 发布时间：2026-10-16T04:16:45.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/xxzpmvxq2man9w7qhmo4fenhu
- 原文：https://www.latent.space/p/ainews-agents-disprove-polysemanticity

## 摘要

Goodfire 的 Nick Cammarata 提出工作假说，认为万亿参数级模型中的大多数神经元可被理解，许多经典多义性与叠加案例可通过进一步的智能体分析解释。他此前在 OpenAI 的自动可解释性研究中仅发现约 2% 的神经元可被理解，如今认为不少著名案例曾被误读。Neel Nanda 仍预期存在表征叠加，其他研究者质疑弱激活覆盖与解释评估标准，相关论文尚未发布。