Skip to content
Hacker News front pagenico

Show HN: Local pretrained classifiers, GPU not needed

Jeffy 提供 13 个预训练文本分类器,可在 CPU 上本地运行和重训,并支持 Python SDK、HTTP API 与自定义数据训练。工具采用共享编码器 bge-large-en-v1.5 与逻辑回归分类头,运行内存约 ~2 GB,Linux aarch64 上单条文本端到端 p50 延迟为 50–80 ms。

Read the original ↗Export Markdown