热点事件持续更新
Apple演示Mac集群本地运行816B模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
10月15日的报道称,Apple演示了在Mac Studio集群上本地运行816B大模型的方案。此次演示使用四台M5 Ultra Mac Studio,结合MLX与Thunderbolt RDMA,运行的模型为Muse Spark Open 816B。报道给出的性能结果是:在8,192 tokens上下文下,运行速度达到每秒36.73 tokens。目前报道披露的进展集中于这次演示的硬件配置、所用技术、模型与性能数据。
AI 根据报道生成 · 2 小时前更新
最新进展10月16日 02:01
Apple演示四台M5 Ultra Mac Studio运行816B模型,速度达每秒36.73 tokens。报道时间线
沿着报道,了解事件的不同侧面。
10月16日
- AI HOT · 技巧与观点Apple 演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型
Apple 演示用 MLX 和 Thunderbolt RDMA 在四台 M5 Ultra Mac Studio 上运行 Muse Spark Open 816B,在 8,192 tokens 上下文下达到 36.73 tokens per second。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。