# Atlas 推理引擎开源，在 DGX Spark 上跑 Qwen3.6-35B-FP8 能稳定跑到每秒 100 多个 token

> 原标题：The GB10 Solution Atlas is now open source, the inference engine made for the community with breakneck inference speeds (Qwen3.6-35B-FP8 100+ tok/s)

- 来源：r/LocalLLaMA
- 发布时间：2026-05-06T20:36:19.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/15025
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t5p2yv/the_gb10_solution_atlas_is_now_open_source_the/

## 摘要

Avarok 把 Atlas 推理引擎开源了。它用 Rust 和 CUDA 写成，镜像只有约 2.5GB，冷启动不到两分钟。在一台 DGX Spark 上跑 Qwen3.5-35B，实测持续速度约 111 tok/s，作者说比 vLLM 快 3.0 到 3.3 倍。

## 推荐理由

Avarok 开源了用 Rust 和 CUDA 写的 Atlas 推理引擎，在 DGX Spark 上跑 Qwen3.5-35B 实测约 111 tok/s，作者称是 vLLM 的 3.0 到 3.3 倍。

## 锐评

111 tok/s 放在 DGX Spark 上挺能打，但作者说比 vLLM 快 3 倍，我第一反应是拿什么配置比的。vLLM 在 Blackwell 上默认那套 kernel 本来就没吃满，SM120/121 手写内核加 NVFP4 和 MTP 解码，快出来的部分大概率是别人还没做的优化。镜像 2.5GB、冷启动两分钟这两个数倒是实在，本地部署最烦的就是环境，能压到这个体积说明作者真在工程上花过功夫。Reddit 单帖、没第三方复现，这个分数先别当准数看，代码是开源的，想验的人自己拉下来跑一遍就知道。
