# BeeLlama.cpp：用 DFlash 和 TurboQuant 让 Qwen 3.6 27B 在单张 3090 上跑 20 万上下文，速度翻倍

> 原标题：BeeLlama.cpp: advanced DFlash &amp; TurboQuant with support of reasoning and vision. Qwen 3.6 27B Q5 with 200k context on 3090, 2-3x faster than baseline (peak 135 tps!)

- 来源：r/LocalLLaMA
- 发布时间：2026-05-09T16:05:05.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/16628
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t88zvv/beellamacpp_advanced_dflash_turboquant_with/

## 摘要

Anbeeld 发了一个 llama.cpp 的分支 BeeLlama.cpp，主要加了 DFlash（一种省显存的注意力机制）和 TurboQuant（更快的量化方案），还支持推理和视觉任务。

## 推荐理由

Anbeeld 发布 llama.cpp 分支 BeeLlama.cpp，加入 DFlash 省显存注意力与 TurboQuant 量化，让 Qwen 3.6 27B 在单张 3090 上支持 20 万上下文并提速 2 至 3 倍。

## 锐评

单张 3090 跑 27B 加 20 万上下文，这个组合对本地党挺有吸引力，但 135 tps 的峰值先当广告看。Reddit 标题里的数字，输入多长、batch 多大都没交代，这种峰值通常出现在短 prompt 上，真塞满 200k 上下文速度掉到多少才决定它能不能用。DFlash 省显存、TurboQuant 压量化，都是工程活，长任务稳不稳得看实际。反正 llama.cpp 分支多一个不多，等有人拿真实 workload 跑出曲线再决定换不换。
