里约热内卢的“自研”大模型 Rio-3.5-Open-397B,被扒出只是两个现有模型的线性混合
Rio de Janeiro's "homegrown" LLM appears to be a merge of an existing model
Nex AGI 在 GitHub 上发了个 issue,直接分析权重后发现,Rio-3.5-Open-397B 约等于 0.6 个 Nex-N2_pro 加 0.4 个 Qwen 的线性混合,没有独立训练痕迹。之前这个模型被宣传成里约团队本地开发的大语言模型,现在看更像是把两个现成模型按比例搅在一起。
推荐理由:Nex AGI 通过分析权重指出,里约团队宣传为本地自研的 Rio-3.5-Open-397B 约等于 0.6 个 Nex-N2_pro 与 0.4 个 Qwen 的线性混合,未显示独立训练痕迹。