美团 LongCat-2.0:1.6 万亿参数 MoE 模型,全程跑在国产芯片上
实测美团LongCat-2.0,国产芯片长出来的万亿大模型
美团放出了 LongCat-2.0,一个总参数 1.6 万亿、每次推理只激活约 480 亿参数的混合专家模型。它从训练到上线全跑在 5 万张国产芯片上,喂了超过 35 万亿个 token,训练过程没翻车,没出现救不回来的 loss 飙升。
推荐理由:美团发布总参数1.6万亿的MoE模型LongCat-2.0,每次推理激活约480亿参数,训练到上线全程使用5万张国产芯片、消耗超35万亿token。