# Hetzner 开始试水大模型推理 API，目前只挂了一个模型

> 原标题：Hetzner is working on LLM Inference

- 来源：Hacker News 首页
- 发布时间：2026-07-24T09:24:44.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/46353
- 原文：https://sliplane.io/blog/hetzner-inference

## 摘要

Hetzner 上线了一个实验性的推理 API，接口兼容 OpenAI 格式，目前只提供 Qwen 3.6 35B FP8 这一个模型。作者实测首 token 延迟中位数 153 毫秒，输出速度每秒 224 个 token，速度不错，但模型连简单的算术题都会做错。现在没有计费、没有 SLA，Hetzner 明说就是想看看需求、测测扩容和负载。

## 推荐理由

Hetzner 上线实验性推理 API，兼容 OpenAI 格式，目前仅提供 Qwen 3.6 35B FP8，作者实测首 token 延迟中位数 153 毫秒、输出每秒 224 个 token，且无计费与 SLA。

## 锐评

Hetzner 做推理 API 这事，我第一反应是它压根没想认真卖。没计费、没 SLA，只挂一个 Qwen 3.6 35B，还明说是测需求测扩容，这更像一次公开压测。153 毫秒首 token、224 token/s 的吞吐确实能打，但模型连算术都错，它现在就是拿闲置 GPU 跑个 demo。欧洲厂商从卖裸金属往模型托管上探，方向对，这版离能进生产还差得远。
