Mac本地LLM内存与速度计算器推出

10月17日，Hacker News 首页报道了一款 Mac LLM 计算器，用于估算不同 Mac 能否运行指定模型，以及运行时的生成速度。该计算器以模型权重、统一内存和内存带宽为估算依据，将模型运行所需资源与 Mac 的硬件条件相结合。报道给出的示例显示，计算器预计，配备 64 GB 内存的 M4 Pro 可运行 Q4_K_M 量化的 Llama 3.3 70B，生成速度约为每秒 5.7 个 token；这一数值是计算器的估算结果，而非报道提供的实测数据。

AI 根据报道生成 · 36 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。