Tim Dettmers 实验室开源周:在你自己的硬件上跑前沿 AI
Frontier AI on Your Own Hardware
Tim Dettmers 的 dlab 这周会开源一整套工具,目标是让前沿 AI 能在本地硬件上跑起来。他们放出了一个能自己优化 Metal 内核的智能体,把 Qwen 3.6 35B-A3B 模型压到每个权重只占 1.5 比特,在 Mac 上跑出了每秒 450 个 token 的速度。核心观点是,现在做研究的基本单位不再是单篇论文,而是一套能互相配合...
推荐理由:Tim Dettmers 在量化领域是核心人物,这次不是发论文而是直接甩工具链,数字也具体(1.5 比特、450 tok/s),可复现路径摆出来了。我会先打个折:目前只是博客预告,实际兼容性和稳定性要等代码放出来才知道,但信息量和话题性都够上 featured。