PS5LM 在越狱 PS5 上原生运行 GGUF 模型并提供局域网 API

Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console

PS5LM 利用 llama.cpp 的 Vulkan 后端，在越狱 PS5 的 GPU 上运行 GGUF 模型，并向局域网设备提供兼容 OpenAI 和 Anthropic 的 API。