backburner探索iPhone与Mac协同推理

10月10日，Computing Life 发布代码解读，介绍开源项目 backburner 如何让 iPhone 通过 USB-C 协同 Mac 运行本地大模型。该方案由 iPhone 分担长文本的预填计算，并托管溢出的历史 KV cache。文章分析了项目的注意力切分、流水线设计，以及将历史键值页编译为 ANE 静态权重的实现方案。报道给出的 140k 上下文测试中，预填吞吐从 58 tok/s 提升至 68 tok/s，展示了手机参与 Mac 本地推理的实测进展。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。