PrismML 把压缩了 4 倍的微型语言模型塞进了高通智能眼镜

PrismML brings its tiny LLMs to Qualcomm-powered smart glasses

PrismML 在高通骁龙峰会上展示了一个叫 Bonsai 的 1-bit 语言模型，能直接在智能眼镜上跑，不用联网。这个模型有 20 亿参数，同时处理图像和文字，戴着眼镜看到什么可以直接问。他们的核心本事是把大模型体积压到原来的四分之一，跑分还几乎不掉。这家公司的长远目标是做开放权重的端侧 AI，不把隐私押在云厂商的承诺上。不过目前还没有哪款智能眼镜...