PrismML 把推理模型压到 5.9 GB，想在手机和电脑上跑

PrismML hopes its tiny LLM will change how we all use AI

PrismML 发布了 Bonsai 2 27B，这是阿里 Qwen3.8 27B 的压缩版，体积只有 5.9 GB，内存占用比原版少了 9 到 10 倍，能在 PC 上跑，高端手机也有可能。团队带头人是 Caltech 的压缩技术专家 Babak Hassibi，Databricks 联合创始人 Ion Stoica 担任顾问。公司拿了 2225 万...