Inkling-Small 开源:总参数 276B、激活 12B,体积缩到四分之一,性能号称打平原版
Inkling-Small 发布,276B 参数性能持平原版
Thinking Machines 把 Inkling 模型缩小到原来的四分之一,放出了 Inkling-Small。总参数量 276B,但每次推理只激活 12B 参数,相当于用更少的算力跑出相近的效果。完整权重已经公开,可以在 Tinker 上直接微调,也能在 Tinker Playground 里用文字、图片、音频跟它对话。不过正文没给出具体的基准...
推荐理由:Thinking Machines 把 Inkling 压缩到 276B 总参数、12B 激活参数,还开源了完整权重。压缩比和开放程度都挺实在,但正文没给出具体基准分数,所以分数没往上拉。