跳到正文
Hacker News 首页

Cactus 给 Gemma 4 加了个“自知之明”探针,只把 15-35% 的难题转给云端模型

Show HN: Cactus Hybrid: We taught Gemma 4 to know when it's wrong

Cactus 团队对 Gemma 4 E2B 做了后训练,让模型每次回答都附带一个 0 到 1 的置信度分数。分数高就在设备上直接出结果,分数低才转给云端模型 Gemini 3.1 Flash-Lite。他们没让模型自己写文字评价自己,也没用 token 熵这种几乎和抛硬币差不多的老办法,而是加了一个只有 6.8 万参数的小探针层。

推荐理由:Cactus 团队给 Gemma 4 E2B 加装 6.8 万参数探针,让模型输出置信度分数,仅将 15 至 35% 的难题转给云端 Gemini 3.1 Flash-Lite。

读原文 ↗导出 Markdown