跳到正文
量子位 · 公众号

蚂蚁清华开源9B模型Realtime-Venus:前台聊天后台干活,多任务并行不排队

一套Harness打通前后台:蚂蚁清华开源9B模型Realtime-Venus,让AI办事对话异步并行

蚂蚁集团和清华开源了一个9B参数模型Realtime-Venus,核心是一套叫Harness的框架,把用户对话和后台执行拆开。以前AI办事得一句一问等回复,现在模型可以一边跟用户聊天,一边异步去查资料、填表单,多个任务同时跑。9B的参数量不算大,适合资源有限的部署场景。正文没披露训练数据、跑分和部署成本,实际效果和性价比还得自己测。

读原文 ↗导出 Markdown