热点事件观察中
Fireworks发布Ember-1推理模型,在保持回答质量同时减少40%推理token
2 篇报道1 个报道来源2 天前更新
先了解这件事
报道摘要
Fireworks Research 基于 Kimi K3 训了个新模型 Ember-1,把推理时产生的内部思考 token 压掉了 35% 到 50%,但准确率没掉。他们跑了 50 多次训练实验,发现 K3 超过九成的 token 都花在内部推理上,其中很多是多余的。Ember-1 保留了有用的自我纠错,跳过了没产出的思考循环。在多轮 agent 任...
摘自 AI HOT 精选
报道时间线
沿着报道,了解事件的不同侧面。
9月28日
- AI HOT 精选精选Fireworks AI 把 Kimi K3 的推理 Token 砍掉约 40%,做出 Ember-1
Fireworks AI 对 Kimi K3 做了一轮后训练,得到新模型 Ember-1。它把推理时产生的 token 量减少了大约 40%,但准确率没掉。K3 有时会把超过 90% 的 token 花在内部推理上,在多轮 agent 任务里成本会滚雪球。Ember-1 保留了有用的自我纠错,砍掉了重复绕圈的部分。在 Terminal Bench 2....
9月24日
- AI HOT 精选精选Fireworks 发布 Ember-1:推理 token 砍掉四成,Kimi K3 的答题质量还在
Fireworks Research 基于 Kimi K3 训了个新模型 Ember-1,把推理时产生的内部思考 token 压掉了 35% 到 50%,但准确率没掉。他们跑了 50 多次训练实验,发现 K3 超过九成的 token 都花在内部推理上,其中很多是多余的。Ember-1 保留了有用的自我纠错,跳过了没产出的思考循环。在多轮 agent 任...
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。