跳到正文
Hacker News 首页nico

Jeffy 推出本地预训练文本分类工具,无需 GPU 即可运行与重训

Show HN: Local pretrained classifiers, GPU not needed

Jeffy 提供 13 个预训练文本分类器,可在 CPU 上本地运行和重训,并支持 Python SDK、HTTP API 与自定义数据训练。工具采用共享编码器 bge-large-en-v1.5 与逻辑回归分类头,运行内存约 ~2 GB,Linux aarch64 上单条文本端到端 p50 延迟为 50–80 ms。

读原文 ↗导出 Markdown