jinfer：一个纯 Java 写的 AI 推理引擎，把大模型塞进 jar 包，不用装 Python

jinfer: An open-source AI inference engine for the JVM. Finally, AI in jar.

mukel90 发了个新项目 jinfer，是个完全用 Java 写的推理引擎，支持聊天、视觉、语音转文字、文本嵌入、重排序和语音合成。它不依赖 Python、ONNX 或任何外部进程，能直接读写 gguf 和 safetensors 格式的模型。作者说 CPU 上的性能已经能和 llama.cpp 掰手腕，GPU 支持还在开发中。项目已经接入了 Sp...