跳到正文
AI HOT 精选

Google 开源 Tunix:一个让 TPU 在训智能体时不再干等的 JAX 库

Google 推出 Tunix:基于 JAX 的高吞吐智能体后训练库

Google 放出了 Tunix,一个基于 JAX 的智能体后训练库,专门解决用强化学习训智能体时 TPU 摸鱼的问题。核心思路是把“让模型干活”和“让模型学习”这两件事拆开:模型在等工具返回结果(比如等一次网页搜索)的时候,推理引擎立刻切去给另一个活跃的智能体生成回答,不让芯片闲着。

推荐理由:Google 开源基于 JAX 的智能体后训练库 Tunix,把模型等待工具返回的时间用于为其他活跃智能体生成回答,为训练基建团队提供了一种提升 TPU 利用率的调度思路。

读原文 ↗导出 Markdown