# Edge0 开源 Edge0-145B 和 Edge0-120B，支持个人电脑本地推理

> 原标题：Edge0-145B: Frontier AI Capabilities on Your Own Computer

- 来源：Hacker News 首页
- 发布时间：2026-11-12T23:06:17.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/sm7fqj85h6a0ypdpbn6aookn3
- 原文：https://edge0.ai/blog/introducing-edge0-145b-frontier-ai-capabilities-on-your-own-computer

## 摘要

Edge0 开源 Edge0-145B、Edge0-120B 及统一推理框架和部署工具，支持在适配的个人电脑上运行编码、推理与 AI 智能体任务。内部测试报告 Edge0-145B 峰值内存为 29GB、预填充速度为 1,100+ tokens/s、解码速度为 80+ tokens/s，通过专家矩阵共享、分层加载和 CPU/GPU 协同执行降低运行负担。

## 推荐理由

Edge0 将模型架构与推理引擎联合设计，通过专家矩阵共享、分层加载和异构调度降低大模型本地运行的内存与数据搬运负担。

## 锐评

145B 能塞进 29GB 内存跑出 80+ tokens/s，全靠每一步只激活 10B 参数撑着。每组 64 个专家共享大矩阵，算力负荷直接压在百亿级别，个人电脑才吃得消。要是 120W 典型功耗下真能顶住 128K context 不降频，本地跑复杂 agent 的 API 费用就能直接省干净。用模型架构和推理引擎协同来换端侧空间，这个解法我信。
