# General Instinct 开源 InstinctRazor：把 245GB 的大模型压到 48GB，能在本地设备上跑

> 原标题：Launch HN: General Instinct (YC P26) – Frontier models on edge devices

- 来源：Hacker News 首页
- 发布时间：2026-06-05T16:33:00.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/34651
- 原文：https://news.ycombinator.com/item?id=48414869

## 摘要

General Instinct 开源了 InstinctRazor，一个专门给边缘设备用的模型压缩方案。他们拿 Qwen3.5-122B-A10B 开刀，这个模型原本是 BF16 格式的混合专家模型（MoE），体积大约 245GB。

## 推荐理由

General Instinct 开源了面向边缘设备的压缩方案 InstinctRazor，把 245GB 的 Qwen3.5-122B-A10B 混合专家模型压到 48GB，关注本地部署大模型的团队可参考其压缩路径。

## 锐评

245GB 压到 48GB，这个压缩比挺狠，本地跑 MoE 的门槛一下降了一个量级。但这是 YC 的 Launch HN，性能数字先当宣传看。压完以后推理速度还剩多少，MoE 压缩最容易掉的就是专家路由的效率，48GB 装得下不代表跑得快。MMLU-Pro 掉多少分也没说，这个比体积更影响能不能用。想省显存钱的团队可以盯，线上模型先别换。
