我把本地大模型当 3D 打印机用:缺什么软件就自己造
I've found myself using Local LLM's like 3D printers.
一位 Reddit 用户说他现在用本地大模型就像用 3D 打印机——家里缺个支架、绕线器就自己打,现在缺个软件、游戏 mod 也自己生成。他用的是一台 Minisforum MS-S1 395+ Max,128GB 统一内存里划了 96GB 当显存,跑的是 Qwen 3.8 27B 无审查版,能撑住 Q8 量化和完整的 256k 上下文窗口。他在自己搭...