# Ahmad Osman 聊本地 AI 为什么快追上来了

> 原标题：Ahmad Osman on why local AI is catching up

- 来源：Latent Space
- 发布时间：2026-06-30T23:39:29.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/42644
- 原文：https://www.latent.space/p/ahmad-osman-local-ai

## 摘要

Ahmad Osman 在 AI 工程师世界博览会上办了两场爆满的本地 AI 工作坊，现场用硬件对比网站让参会者直接跑分，比较 DGX Spark、AMD Strix Halo 等设备与云端前沿模型的速度和效果。他的核心判断是：开源模型落后闭源模型 4 到 8 个月，而且差距还在缩小。很多人没意识到，ChatGPT 这类产品卖的不只是模型，还打包了搜索...

## 推荐理由

Ahmad Osman 在 Latent Space 的访谈里把开源模型的落后时间钉在 4 到 8 个月，并且用工作坊现场的硬件跑分来验证。有具体数字和一手实验撑着，不是产品发布，所以分数不会虚高，但对从业者来说信号很实在。

## 锐评

Ahmad Osman 在 AI 工程师世界博览会上没讲虚的，直接拉了个硬件对比网站让参会者现场跑分，比较 DGX Spark、AMD Strix Halo 这些设备跟云端模型的差距。他的核心判断很明确：开源模型大概落后闭源模型 4 到 8 个月，而且这个差距还在缩小。这个时间差意味着你现在用本地设备跑的开源模型，能力大概相当于大半年前的付费产品，对很多场景其实够用了。

他点破了一个很多人没想透的事：ChatGPT 这类产品卖的不只是模型本身，它打包了搜索、工具调用和整套基础设施。他举了个很具体的例子，有人用本地部署的 Qwen 3.5 接 Claude Code 想让显卡变个灯效，结果失败了，原因仅仅是没给本地模型开联网搜索权限——模型训练数据是旧的，不知道新驱动怎么调。一旦补上搜索接口，任务就完成了。这说明本地 AI 的短板往往不在模型智力，而在外围工具链没配齐。

不过文章没给出具体的跑分数据和延迟数字，只说了有这么一个对比网站。Osman 的公司 Osmantic 在做开源部署系统，就是想补这个端到端的缺口。另外他提到现在一台手机能跑的模型已经超过两年前的云端系统，这个对比挺直观，但没说明具体是哪款手机跑哪个模型、在什么任务上超过的，这点先别太激动。