# ExLlamaV3 连续更新：DFlash 让编程吞吐量翻三倍，多款模型推理再提速

> 原标题：ExLlamaV3 Major Updates!

- 来源：r/LocalLLaMA
- 发布时间：2026-05-11T07:05:47.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/17579
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1t9voxs/exllamav3_major_updates/

## 摘要

ExLlamaV3 最近几个版本更新挺猛。v0.0.31 引入 DFlash 后，编程任务的生成速度从每秒 59.21 个 token 直接拉到 177.67，翻了近三倍。v0.0.32 专门优化了五款模型，其中 Trinity-Nano 在 6000 Pro² 显卡上的速度提升了 72.4%。

## 推荐理由

ExLlamaV3 在 v0.0.31 引入 DFlash，把编程任务生成速度从每秒 59.21 个 token 提到 177.67，v0.0.32 又针对五款模型优化，Trinity-Nano 在 6000 Pro² 上提速 72.4%。

## 锐评

本地推理这块，ExLlama 一直是闷声干活的，这次 DFlash 把编程任务从 59 token/s 拉到 177，三倍不是挤牙膏。6000 Pro² 上 Trinity-Nano 再涨 72.4%，等于同一张卡多跑一倍多的活。跑本地 coding agent 的人，硬件预算能省一档。显存和精度有没有代价摘要里没提，我暂时按没变算，真跑起来掉点质量也认，反正省下的时间比那点质量值钱。
