# 有人把英伟达 Parakeet 语音转文字模型移植到了 ggml，不再需要 Python，还能量化压缩

> 原标题：I ported NVIDIA Parakeet (speech-to-text) to ggml: same output as NeMo, faster, GGUF-quantized, no Python

- 来源：r/LocalLLaMA
- 发布时间：2026-05-31T20:35:51.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/30821
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1tt6oja/i_ported_nvidia_parakeet_speechtotext_to_ggml/

## 摘要

开发者 mudler_it 把英伟达的 Parakeet 语音转文字模型用 C++ 和 ggml 重写了一遍，彻底甩掉了 Python 和 PyTorch。他测试下来，在 f32 和 f16 精度下输出结果和原版 NeMo 逐字节一致，但速度更快，大一点的 TDT 和混合模型在 GPU 上能跑到大约 5 倍加速。

## 推荐理由

开发者用 C++ 和 ggml 重写了英伟达 Parakeet 语音转文字模型，去掉 Python 与 PyTorch 依赖，f32 和 f16 精度下输出与原版 NeMo 逐字节一致，GPU 上大模型约 5 倍加速。

## 锐评

输出和 NeMo 逐字节一致，这个比 5 倍加速更让我信。移植项目最怕的就是结果对不上，对上了才敢往生产里放，量化压缩和甩掉 Python 都是顺带的。语音转文字这块本地跑一直卡在环境上，PyTorch 那套依赖装起来就够劝退，能纯 C++ 跑起来，树莓派和离线盒子这类场景直接受益。个人项目，长期维护看社区，但字节对齐这个底子打得够扎实。
