跳到正文
热点事件观察中

Fireworks发布Ember-1推理模型,在保持回答质量同时减少40%推理token

2 篇报道1 个报道来源2 天前更新

先了解这件事

报道摘要

Fireworks Research 基于 Kimi K3 训了个新模型 Ember-1,把推理时产生的内部思考 token 压掉了 35% 到 50%,但准确率没掉。他们跑了 50 多次训练实验,发现 K3 超过九成的 token 都花在内部推理上,其中很多是多余的。Ember-1 保留了有用的自我纠错,跳过了没产出的思考循环。在多轮 agent 任...

摘自 AI HOT 精选

报道时间线

沿着报道,了解事件的不同侧面。

9月28日
  1. AI HOT 精选精选
    Fireworks AI 把 Kimi K3 的推理 Token 砍掉约 40%,做出 Ember-1

    Fireworks AI 对 Kimi K3 做了一轮后训练,得到新模型 Ember-1。它把推理时产生的 token 量减少了大约 40%,但准确率没掉。K3 有时会把超过 90% 的 token 花在内部推理上,在多轮 agent 任务里成本会滚雪球。Ember-1 保留了有用的自我纠错,砍掉了重复绕圈的部分。在 Terminal Bench 2....

9月24日
  1. AI HOT 精选精选
    Fireworks 发布 Ember-1:推理 token 砍掉四成,Kimi K3 的答题质量还在

    Fireworks Research 基于 Kimi K3 训了个新模型 Ember-1,把推理时产生的内部思考 token 压掉了 35% 到 50%,但准确率没掉。他们跑了 50 多次训练实验,发现 K3 超过九成的 token 都花在内部推理上,其中很多是多余的。Ember-1 保留了有用的自我纠错,跳过了没产出的思考循环。在多轮 agent 任...

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。