# Ternlight：一个 7 MB 的嵌入模型，在浏览器 CPU 上跑，不调接口

> 原标题：Ternlight – 7 MB embedding model that runs in browser (WASM)

- 来源：Hacker News 首页
- 发布时间：2026-07-06T23:06:31.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/42785
- 原文：https://ternlight-demo.vercel.app/

## 摘要

Ternlight 把文本嵌入模型压缩到 7 MB，通过 WASM 直接在浏览器 CPU 上运行，单次 embed 调用约 5 毫秒。它打包成一个 npm 包，没有模型下载步骤，也不依赖服务端。另外还有一个 5 MB 的 mini 版本，演示里用它给 React 文档做了语义搜索。

## 推荐理由

Ternlight 将嵌入模型打包为浏览器端 npm 包，并用 React 文档语义搜索演示了无需服务端的本地检索实现路径。

## 锐评

7 MB 塞进浏览器 CPU，5 毫秒一次 embed，这个量级挺狠。做前端语义搜索、本地 RAG 的，以前要么调 API 要么塞个几百 MB 的模型，现在一个 npm 包就完事，省掉的是钱、延迟和隐私顾虑。演示拿 React 文档做检索说明不了太多，模型架构、训练数据、跟主流 embedding 的召回对比一个没有，好不好用还得自己拿真实语料跑一遍。零服务端这个方向我认，先拿来试小场景不亏。
