# Jevstiller：把 Jev 分类接口蒸馏成本地小模型，并承诺 98% 的回答跟 Jev 一致

> 原标题：Show HN: Jevstiller – Distill Jev into a local model, with a disagreement bound

- 来源：Hacker News 首页
- 发布时间：2026-09-29T12:05:07.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/59710
- 原文：https://jevstiller.pages.dev/posts/the-guarantee/

## 摘要

Jevstiller 发布一个位于 Jev 调用前的本地代理，用 bge-small 编码器加逻辑回归头学习 Jev 的答案分布，在 CPU 上约 15 ms 返回它确信的标签，其余请求转回 Jev。

## 推荐理由

Jevstiller 在 Jev 调用前加一层本地代理，用 bge-small 加逻辑回归头在 CPU 上约 15 毫秒返回确信标签，其余请求转回 Jev，并给出与 Jev 答案一致率的分歧上界。

## 锐评

98% 这个保证比 15 ms 有意思。15 ms 谁都能做到，难的是敢把「跟 Jev 一致」写成一个可以设的数，还给出统计上的界。做法也聪明，不拿 top label 训，拿 Jev 的整个概率分布训，本地模型学的是它的犹豫。代价是这套东西只在分类任务上成立，标签空间固定、Jev 的输出分布稳定，换个开放式生成就全废。它省的是那些把 Jev 当分类器用的 agent 循环里的延迟预算，300 ms 一步确实撑不住。前提是你得先有一批 Jev 的标注数据，冷启动那几天还是得老老实实调 API。
