Simon Willison 发布 llm-chat-completions-server 插件,把本地模型变成 OpenAI 兼容接口
llm-chat-completions-server 0.1a0 发布
Simon Willison 给他的 LLM 命令行工具写了个插件,启动后会在本地跑一个服务器,把你装过的所有模型(包括其他插件装的)都暴露成 OpenAI 的 /v1/chat/completions 接口。这样任何支持 OpenAI API 格式的客户端都能直接调用你本地的模型。
推荐理由:Simon Willison 为 LLM 命令行工具发布插件,把本地已装模型统一暴露成 OpenAI 兼容接口,任何支持该格式的客户端都能直接调用。