Qwen 发布 Qwen-Scope,用稀疏自编码器给 Qwen 3.5 模型做“内部体检”
Qwen-Scope: Official Sparse Autoencoders (SAEs) for Qwen 3.5 models
Qwen 团队开源了 Qwen-Scope,这是一套针对 Qwen 3.5 系列(从 2B 到 35B MoE)的稀疏自编码器(SAE)。SAE 的作用是把模型内部那些纠缠在一起的激活信号拆解开,变成一个个相对独立的“特征”,方便人去看懂和调试。
推荐理由:Qwen 开源了覆盖 2B 到 35B MoE 全层残差流的稀疏自编码器 Qwen-Scope,把模型内部纠缠的激活信号拆成独立特征,供人查看和调试。