百度发布 ERNIE-5.5-Flash-Base,280B 总参数、14B 激活参数
Baidu released ERNIE 5.5 Flash Base
百度发布 ERNIE-5.5-Flash-Base 基础模型权重,采用稀疏 MoE 架构,总参数为 280B,每个 token 激活 14B 参数。模型从零预训练使用 33.5T tokens,训练上下文扩展至 128K,支持微调和推理时的 1M-token 上下文,发布检查点未经中期训练或后训练。
Baidu released ERNIE 5.5 Flash Base
百度发布 ERNIE-5.5-Flash-Base 基础模型权重,采用稀疏 MoE 架构,总参数为 280B,每个 token 激活 14B 参数。模型从零预训练使用 33.5T tokens,训练上下文扩展至 128K,支持微调和推理时的 1M-token 上下文,发布检查点未经中期训练或后训练。