跳到正文
Ben's Bites

ChatGPT 周活用户逼近 10 亿;OpenAI 用自家模型 Sol 给自己省了 20% 的推理成本

1 Billion ChatGPT users

ChatGPT 的周活跃用户数快摸到 10 亿了,比 OpenAI 自己定的目标晚了大概七个月。OpenAI 还干了一件事:用他们自己的模型 Sol 来优化 Sol 的线上服务,结果把推理成本砍掉了 20%,生成 token 的效率也提升了超过 15%。

推荐理由:OpenAI 用自家模型 Sol 优化线上服务,把推理成本降低 20%,token 生成效率提升超 15%,这是模型自优化在真实生产环境中的一次成本数据披露。

读原文 ↗导出 Markdown