AI 的微型钢厂:我把 78% 的活搬到了本地 Mac 上跑
AI的微型钢厂
作者 Tomasz Tunguz 把自己日常的 AI 工作流改成了双车道调度:简单任务(如邮件分类、日程安排)由 Mac 本地的模型处理,复杂任务才扔给云端大模型。过去一周,本地模型最高一天处理了 88% 的任务。这套分流设计让平均任务耗时从 47 秒降到 19 秒,排队时间从 73 秒暴跌到 4 秒,整体吞吐量提升了约 25%。
推荐理由:作者把日常 AI 工作流拆成 Mac 本地模型与云端模型双车道调度,简单任务留在本地,一周内本地最高承担 88% 的任务,平均耗时从 47 秒降到 19 秒,吞吐量提升约 25%。