# Reddit 网友用英特尔傲腾持久内存攒了一台机器，本地跑 1 万亿参数模型，速度超过 4 token/秒

> 原标题：Computer build using Intel Optane Persistent Memory - Can run 1 trillion parameter model at over 4 tokens/sec

- 来源：r/LocalLLaMA
- 发布时间：2026-05-11T19:54:25.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/17658
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1taeg8h/computer_build_using_intel_optane_persistent/

## 摘要

Reddit 用户 APFrisco 分享了一套硬件方案：用 768GB 英特尔傲腾持久内存（Optane PMem）当主存储，搭配 192GB DDR4 ECC 内存和一张 12GB 显存的 RTX 3060 显卡，通过 llama.cpp 的混合推理（CPU+GPU）。

## 推荐理由

Reddit 用户用 768GB 傲腾持久内存搭配 RTX 3060，在本地以超过 4 token/秒跑起 1 万亿参数模型，展示了 llama.cpp 混合推理在低成本硬件上的可行路径。

## 锐评

768GB 傲腾跑 1 万亿参数，4 token/秒，这速度本地推理已经能用了，但账得算清楚。傲腾早停产，二手 768GB 现在不便宜，加 192GB DDR4 ECC，整套够租很久云 API。有意思的是 12GB 的 3060 就撑住了，瓶颈全在内存带宽和容量，显卡反而不关键。想复现先看二手傲腾报价，别被 4 token/秒冲昏头。
