跳到正文
AI HOT 精选

Inkling-Small 开源:总参数 276B、激活 12B,体积缩到四分之一,性能号称打平原版

Inkling-Small 发布,276B 参数性能持平原版

Thinking Machines 把 Inkling 模型缩小到原来的四分之一,放出了 Inkling-Small。总参数量 276B,但每次推理只激活 12B 参数,相当于用更少的算力跑出相近的效果。完整权重已经公开,可以在 Tinker 上直接微调,也能在 Tinker Playground 里用文字、图片、音频跟它对话。

推荐理由:Thinking Machines 把 Inkling 压缩到四分之一规模后开源,276B 总参数每次只激活 12B,完整权重可直接在 Tinker 上微调,为关注大模型轻量化部署的读者提供了可上手的实例。

读原文 ↗导出 Markdown