# AI 的微型钢厂：我把 78% 的活搬到了本地 Mac 上跑

> 原标题：AI的微型钢厂

- 来源：AI HOT 精选
- 发布时间：2026-06-05T00:00:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/34657
- 原文：https://www.tomtunguz.com/using-local-ai-to-work-faster

## 摘要

作者 Tomasz Tunguz 把自己日常的 AI 工作流改成了双车道调度：简单任务（如邮件分类、日程安排）由 Mac 本地的模型处理，复杂任务才扔给云端大模型。过去一周，本地模型最高一天处理了 88% 的任务。这套分流设计让平均任务耗时从 47 秒降到 19 秒，排队时间从 73 秒暴跌到 4 秒，整体吞吐量提升了约 25%。他的逻辑是，把之前蒸馏...

## 推荐理由

这是一篇实操向的评论，不是模型发布或平台更新。作者把自己当微型钢厂，用本地模型处理简单任务、云端模型接复杂活，跑出了一组能直接对比的延迟和吞吐数据。对正在琢磨本地推理和混合调度的人，这些数字比泛泛的“端侧 AI”有说服力。信息缺口在于这只是个人实验，没有更大规模的验证，所以放在 featured 而不是 breaking。

## 锐评

Tomasz Tunguz 把自己日常的 AI 任务拆成两条车道：简单活（邮件分类、日程安排）由 Mac 本地模型处理，复杂活才扔给云端大模型。过去一周，本地模型最高一天扛下了 88% 的任务量。这套分流设计让平均任务耗时从 47 秒降到 19 秒，排队时间从 73 秒暴跌到 4 秒，整体吞吐量提升了约 25%。

这个数据挺实在，核心逻辑就是别让小事在大事后面排队。他用的是之前蒸馏出来的技能模型，相当于把大模型的能力压缩成一个小模型跑在本地，只把真正需要“大算力”的活交给云端。类比 Nucor 的微型钢厂挺贴切：轻资产、贴近需求、只做自己最擅长的那部分。

不过得打个折。这是单人工作流的实验数据，任务类型、并发量、模型精度要求都没披露。78% 这个比例高度依赖他个人的任务结构，换一个人或换一个业务场景，这个数字可能完全不一样。另外，本地模型处理复杂任务时的错误率和回退机制也没提，如果分错类把重要邮件漏了，省下的时间可能不够补窟窿。