# jinfer：一个纯 Java 写的 AI 推理引擎，把大模型塞进 jar 包，不用装 Python

> 原标题：jinfer: An open-source AI inference engine for the JVM. Finally, AI in jar.

- 来源：r/LocalLLaMA
- 发布时间：2026-09-15T08:09:43.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/56669
- 原文：https://www.reddit.com/r/LocalLLaMA/comments/1wgu62z/jinfer_an_opensource_ai_inference_engine_for_the/

## 摘要

mukel90 发了个新项目 jinfer，是个完全用 Java 写的推理引擎，支持聊天、视觉、语音转文字、文本嵌入、重排序和语音合成。它不依赖 Python、ONNX 或任何外部进程，能直接读写 gguf 和 safetensors 格式的模型。作者说 CPU 上的性能已经能和 llama.cpp 掰手腕，GPU 支持还在开发中。项目已经接入了 Sp...