# Colibrì：一个纯 C 引擎，让 744B 参数的 GLM 5.2 在 32GB 内存、无显卡的笔记本上跑起来

> 原标题：Show HN: Getting GLM 5.2 running on my slow computer

- 来源：Hacker News 首页
- 发布时间：2026-07-09T08:05:04.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/43551
- 原文：https://github.com/JustVugg/colibri

## 摘要

作者用一台 12 核、25GB 可用内存的笔记本，把 GLM 5.2 这个 7440 亿参数的大模型跑通了，没用到显卡。做法是把模型切成两块：注意力层、共享专家等约 170 亿参数的稠密部分，用 int4 量化后常驻内存，占大约 9.9GB。

## 推荐理由

作者把 GLM 5.2 的稠密部分做 int4 量化后常驻内存，其余路由专家留在硬盘按需加载，在无显卡的笔记本上跑通了这个 7440 亿参数模型。

## 锐评

744B 的模型塞进 25GB 内存，靠的是把 370GB 路由专家全扔硬盘，按需从页缓存里捞。MoE 本来就只激活一小撮专家，吃内存的是那 170 亿稠密部分，int4 压到 9.9GB 算合理。能跑起来我信，速度大概率每 token 几秒起步，硬盘随机读的延迟摆在那。这事的价值不在日常用，在于说明消费级硬件跑超大 MoE 卡的是 IO 不是显存。想当生产力工具的还是算了，当技术验证看挺好。
