# Cactus 给 Gemma 4 加了个“自知之明”探针，只把 15-35% 的难题转给云端模型

> 原标题：Show HN: Cactus Hybrid: We taught Gemma 4 to know when it's wrong

- 来源：Hacker News 首页
- 发布时间：2026-07-22T17:56:29.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/45981
- 原文：https://github.com/cactus-compute/cactus-hybrid

## 摘要

Cactus 团队对 Gemma 4 E2B 做了后训练，让模型每次回答都附带一个 0 到 1 的置信度分数。分数高就在设备上直接出结果，分数低才转给云端模型 Gemini 3.1 Flash-Lite。他们没让模型自己写文字评价自己，也没用 token 熵这种几乎和抛硬币差不多的老办法，而是加了一个只有 6.8 万参数的小探针层。

## 推荐理由

Cactus 团队给 Gemma 4 E2B 加装 6.8 万参数探针，让模型输出置信度分数，仅将 15 至 35% 的难题转给云端 Gemini 3.1 Flash-Lite。

## 锐评

6.8 万参数的小探针干置信度打分，这个思路比让模型自己写"我有多确定"靠谱多了。token 熵那套确实跟抛硬币差不多，模型嘴上说没把握，实际该错还是错。Cactus 只把 15-35% 的难题转云端，剩下都在设备上跑，省下来的 API 账单是实打实的。现在只有 README，探针在分布外的题上会不会乱给高分，这个没人知道。
