跳到正文
Hacker News 首页azhenley

深入解读 Azure Maia 300 的系统架构与推理能效优化

Deep dive into Azure Maia 300 architecture

Microsoft 详解 Azure Maia 300 架构,通过软件、芯片、机架、网络与数据中心协同设计优化云规模智能体推理。每个加速器配备 288 GB HBM4 内存和 18 TB/s 带宽,采用跨芯粒 NUMA 内存组织、增强型 MXFP4 与 sub-3-bit 存储格式,双层网络可连接最多 12,288 个加速器。

读原文 ↗导出 Markdown