# 在 13 年前的老至强 CPU 上跑 Gemma 4 26B 模型，每秒 5 个 token

> 原标题：Running Gemma 4 26B at 5 tokens/SEC on a 13-year-old Xeon with no GPU

- 来源：Hacker News 首页
- 发布时间：2026-07-15T15:34:05.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/44528
- 原文：https://www.neomindlabs.com/2026/06/08/running-gemma-4-26b-at-5-tokens-sec-on-a-13-year-old-xeon-with-no-gpu/

## 摘要

作者把谷歌的 Gemma 4 26B 模型（一种混合专家模型，每次只激活部分参数）塞进了一台 2013 年的惠普存储服务器，双路至强 E5-2690 v2，没显卡，整机成本不到 300 美元。跑起来后生成速度约每秒 5.2 个 token，跟人阅读速度差不多。

## 推荐理由

作者在2013年的双路至强服务器上无显卡运行Gemma 4 26B混合专家模型，整机成本不到300美元，生成速度约每秒5.2个token，接近人的阅读速度。

## 锐评

300 美元、没显卡、13 年前的至强，跑出 5.2 token/s，这个数字比一堆本地部署教程实在。MoE 每次只激活一部分参数，正好吃 CPU 这种大内存小算力的机器，作者是挑对了模型才敢这么玩。5 token/s 拿来当聊天玩具够用，接进 agent 干活就是折磨，一轮多步推理光等就等到天亮。所以这事的价值不在能跑，在于把本地推理的硬件门槛打到了二手服务器这个价位，愿意折腾的人现在真能零显卡起步。
