Qwen 发布 Qwen-Scope，用稀疏自编码器给 Qwen 3.5 模型做“内部体检”

Qwen-Scope: Official Sparse Autoencoders (SAEs) for Qwen 3.5 models

Qwen 团队开源了 Qwen-Scope，这是一套针对 Qwen 3.5 系列（从 2B 到 35B MoE）的稀疏自编码器（SAE）。SAE 的作用是把模型内部那些纠缠在一起的激活信号拆解开，变成一个个相对独立的“特征”，方便人去看懂和调试。这次放出的 SAE 覆盖了模型所有层的残差流，还专门标出了一个叫 Feature #6159 的特征，跟中文...

推荐理由：我会先打个折：这不是新模型，所以重要性不会冲到顶。但 Qwen 官方放 SAE 这件事本身挺实在，等于给开发者开了个后门去看模型内部在想什么。覆盖范围从 2B 到 35B MoE，全层残差流都扫了，不是只挑几层做样子。Feature #6159 的例子也直观，能让人立刻联想到怎么用这些特征去修模型行为。唯一要留个心的是许可证里对移除安全过滤的态度，正文没细说具体限制条款，但既然提了，用的时候就得自己掂量。整体上，对做模型调试和可解释性的人来说，这是一份能直接上手试的工具级发布。