Skip to content
AI HOT · Tips & opinions

面壁智能解析前瞻专家调度 LES:如何让 35B MoE 在手机端侧实时无损运行

面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行

面壁智能 MiniCPM-V 团队解析支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度(LES)技术,称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行。iPhone 18 Pro Max 实测解码超 20 token/s。

Read the original ↗Export Markdown