跳到正文
热点事件持续更新

Apple演示Mac集群本地运行816B模型

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

10月15日的报道称,Apple演示了在Mac Studio集群上本地运行816B大模型的方案。此次演示使用四台M5 Ultra Mac Studio,结合MLX与Thunderbolt RDMA,运行的模型为Muse Spark Open 816B。报道给出的性能结果是:在8,192 tokens上下文下,运行速度达到每秒36.73 tokens。目前报道披露的进展集中于这次演示的硬件配置、所用技术、模型与性能数据。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. AI HOT · 技巧与观点
    Apple 演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型

    Apple 演示用 MLX 和 Thunderbolt RDMA 在四台 M5 Ultra Mac Studio 上运行 Muse Spark Open 816B,在 8,192 tokens 上下文下达到 36.73 tokens per second。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。