跳到正文
Hacker News 首页

OpenJev 把本地决策模型跑在浏览器里,直接读选项概率,省掉解码步骤

OpenJev

这是一个纯浏览器实验,把 Jev 那种直接读取选项概率的方法搬到了本地模型上。默认跑 MiniCPM5 2B,也可以切到 Qwen3 0.6B 或 Qwen3.5 4B,所有计算都在你自己的 GPU 上完成,输入不会离开页面。它对比了两种路子:一种是直接读模型对选项 token 的 logits 然后归一化,另一种是让模型一个字一个字吐出 JSON 格...

读原文 ↗导出 Markdown