# 一台 16GB 显存 + 64GB 内存跑本地代码补全和智能体编程

> 原标题：Local LLM autocomplete + agentic coding on a single 16GB GPU + 64GB RAM

- 来源：r/LocalLLaMA
- 发布时间：2026-05-12T14:53:30.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/19006
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1tb3zxp/local_llm_autocomplete_agentic_coding_on_a_single/

## 摘要

Reddit 用户 grumd 在一张 RTX 5080（16GB 显存）和 64GB 内存的单机上同时跑了两套模型：Qwen2.5-Coder-7B Q6 做代码补全，Qwen3.6-35B-A3B Q8 做智能体编程（让模型自己规划步骤、调用工具写代码）。

## 推荐理由

Reddit 用户 grumd 在单张 16GB 显存显卡加 64GB 内存的机器上同时运行代码补全与智能体编程两套模型，并列出所用模型、量化方式和上下文长度。

## 锐评

16GB 显存塞下 35B 的 MoE 加一个 7B 补全，靠的就是 A3B 只激活 3B 参数，这路子对头。卡人的地方在 64GB 内存和 Q8 量化下的吞吐，单机跑 agent 一轮要吐几千 token，速度掉下来体验就崩。这帖没给 tok/s，也没说长上下文掉不掉，参考价值先砍一半。想省 API 账单的可以照这个配置试，但别指望它替掉云端模型。
