在万米高空断网跑大模型:M5 Max 撑了 10 小时,但一根充电线让我亏了 34W 供电
Running Local LLMs Offline on a Ten-Hour Flight
作者在伦敦飞拉斯维加斯的 10 小时航班上,用一台顶配 MacBook Pro M5 Max(128GB 统一内存、40 核 GPU)离线跑了 Gemma 4 31B 和 Qwen 4.6 36B 两个本地模型。他主要用 DuckDB 搭了个云账单分析工具,还处理了约 400 万 token 的零散编码任务。
推荐理由:作者在10小时航班上用顶配MacBook Pro M5 Max离线运行两个本地大模型,并记录下不同充电线导致60W与94W供电差异对推理的影响。