跳到正文

#开源/仓库

今日 0 条

11月2日星期一

9月25日星期五

Hacker News 首页

LaunchVideo 用 Opus 5.5 把链接或一句话变成产品解说视频,不用视频生成模型

LaunchVideo 发布,用户粘贴产品 URL 或输入提示词,由 Claude Opus 5.5 编写影片代码并在 OpenComputer 的无服务器智能体上渲染成 MP4,单条视频约四分钟、约 100k tokens。

推荐理由:LaunchVideo 把产品链接或一句话交给 Opus 5.5 写影片代码,再由无服务器智能体渲染成 MP4,单条约四分钟、约 100k tokens,其用虚拟时钟逐帧确定性渲染的管线不依赖视频生成模型。

9月10日星期四

r/LocalLLaMA

DeepSeek 发了个 V4.1 Flash:跑分超自家 Pro,API 降价,模型还开源了

DeepSeek 正式发布 V4.1 Flash,这是其全新模型架构系列中参数最小的模型,采用 552B 参数的 MoE 与 Causal-Encoder-Decoder 架构,输入侧仅激活 8B、输出侧激活 16B,原生支持多模态视觉理解。

推荐理由:DeepSeek 发布 V4.1 Flash,552B 参数 MoE 仅激活 8B 输入与 16B 输出,跑分超过自家 V4 Pro,KV 缓存较初代缩小 437 倍。

9月7日星期一

Hacker News 首页

MathKernel:给大模型配一个会自证清白的数学内核

Staatsgeheim 在 GitHub 开源 MathKernel 1.3.0,定位为面向 LLM 的证据感知多引擎数学运行时,覆盖精确、符号、形式化、认证区间与数值计算,并带类型化 MathIR、信任标签和完整溯源。

推荐理由:Staatsgeheim 开源 MathKernel 1.3.0,把精确、符号、形式化、认证区间与数值五类计算引擎收进一个面向 LLM 的运行时,并附类型化 MathIR、信任标签与完整溯源。

9月4日星期五

AI HOT 精选

NVIDIA 宣布收购 Hugging Face,黄仁勋说开源能让开发者、初创公司和各国自己定制 AI

NVIDIA 宣布收购 Hugging Face。黄仁勋表示,开源模型能强化安全与网络安全、加速创新与扩散,并让开发者、初创公司、大学、行业和国家都能构建和定制 AI。

推荐理由:NVIDIA 收购 Hugging Face,黄仁勋称开源模型能让开发者、初创公司、大学、行业和国家自行构建和定制 AI,交易把模型分发平台与 GPU 供应方放到同一体系内。

9月3日星期四

Hacker News 首页

MBZUAI 发布 K2 Horizon 模型舰队,最小 0.9B 模型在 AIME 2026 数学测试上跑出 48 分以上

MBZUAI 基础模型研究所(IFM)发布 K2 Horizon,一个由 375B-A23B、36B-A4B、32B、7B、3.7B 和 0.9B 六个模型组成的开源模型家族,其中 0.9B、3.7B、7B 在各自规模上取得领先表现。

推荐理由:MBZUAI 基础模型研究所开源 K2 Horizon 六款模型,覆盖 0.9B 到 375B-A23B,其中 0.9B、3.7B、7B 在各自规模上取得领先表现。

The Verge · AI

英伟达要花近 130 亿美元买下 Hugging Face,开源模型社区以后归芯片巨头管了

英伟达同意以 129.3 亿美元收购 Hugging Face,把最大的开源模型、数据集和工具托管平台收到自己旗下。Hugging Face 2016 年成立,常被叫做“AI 界的 GitHub”,开发者在这里分享模型和协作。英伟达说会扩大平台规模、加强基础设施、让更多人用上 AI。不过正文没披露交易什么时候完成、需要哪些监管审批,这些关键信息都还缺着。

推荐理由:英伟达以129.3亿美元收购Hugging Face,将这家托管开源模型、数据集和工具的平台纳入芯片厂商旗下,交易对开源AI协作生态的影响是这条的核心阅读价值。

Hugging Face 博客

用 100 步 GRPO 微调 3.5 亿参数模型,结构化输出合规率从 22.6% 提到 29.7%

Hugging Face 博客给出用 TRL 的 GRPO 微调 LFM2.5-350M 的公开配方,在 IFStruct 基准上把通过率从 22.6% 提升到 29.7%。

推荐理由:Hugging Face 博客公开了用 TRL 的 GRPO 微调 3.5 亿参数模型 LFM2.5-350M 的完整配方,仅 100 步就把 IFStruct 结构化输出通过率从 22.6% 提到 29.7%。

8月29日星期六

AI HOT 精选

智谱把 GLM-5.3 模型权重开源了,擅长写代码和做网络安全

智谱放出了 GLM-5.3 的模型权重,支持本地部署和商用。这个模型在 AA 综合智能指数上拿了 60 分,跟 Claude Fable 5、GPT-5.6 Sol 这些闭源旗舰差不多,和 Kimi K3 并列开源第一。它主要强在复杂编程、防御性网络安全和长链条任务上。因为网络安全能力太强,智谱在发布前专门多花了两周做安全评估。

推荐理由:智谱开源 GLM-5.3 权重并允许本地部署商用,其在 AA 综合智能指数上以 60 分与 Kimi K3 并列开源第一,接近闭源旗舰水平。

8月26日星期三

AI HOT 精选

智谱开源GLM-5.3-Flash:320B原生多模态模型,能力对标Claude Opus 4.8,价格只要四十分之一

智谱上线并开源了GLM-5.3-Flash,一个总参数320B、激活参数18B的原生多模态模型。它在AA综合智能指数上拿了57分,和Anthropic的Claude Opus 4.8持平,编程表现也相当,但API定价只有Opus 4.8的四十分之一。模型用了稀疏注意力和线性注意力的混合架构,长文本下的注意力计算量比GLM-5.3低了3倍多。

推荐理由:智谱开源GLM-5.3-Flash,320B总参数、18B激活参数,AA综合智能指数57分与Claude Opus 4.8持平,API定价仅为后者四十分之一,开源模型与闭源前沿模型的能力和成本差距由此可比。

8月25日星期二

Hacker News 首页

Qwen 明天开源 Qwen3.8-Flash-Next:总参数 125B、激活 6B 的 MoE 多模态模型

Qwen 在 ModelScope 上预告了 Qwen3.8-Flash-Next,一个基于下一代 Qwen4 架构的多模态 MoE 模型,总参数 125B,每次推理只激活约 6B 参数。这次提前放出来是为了让社区先看看 Qwen4 的设计思路。明天(2026-08-26 15:00 UTC)正式开源,会同时放出 FP8 版本。

推荐理由:Qwen 预告了基于下一代 Qwen4 架构的多模态 MoE 模型 Qwen3.8-Flash-Next,总参数 125B 而每次推理仅激活约 6B,可从中看到 Qwen4 的设计思路。

8月20日星期四

Hacker News 首页

用开源模型给 27 美元的 PineTime 手表写了个卡西欧风格的表盘

Mike Kasberg 翻出抽屉里吃灰两年的 PineTime 手表,用 OpenCode 搭配 Kimi K3、K2.6 和 DeepSeek v4 等开源模型,照着照片复刻了一个卡西欧风格的表盘。他先在 InfiniSim 模拟器里跑通编译,但模型第一版只是猜着放文字位置,元素全叠在一起没法看。于是他换成逐个元素给具体反馈、修好一个再修下一个。

推荐理由:开发者用开源模型为 27 美元的 PineTime 手表复刻卡西欧表盘,从模拟器编译到逐元素修正布局的过程,展示了小硬件上模型辅助编码的可行路径。

8月16日星期日

Computing Life · Share · 鸭哥调研

Google 开源 DiffusionGemma:把 Gemma 4 改成扩散模型,解码飙到 1456 tok/s,但复杂推理掉分明显

Google 把训练好的 Gemma 4 26B-A4B 模型权重直接转成了离散多项式扩散模型,并在 Hugging Face 上开源。它不再从左到右逐个 token 写,而是在 256 个 token 的“画布”里通过多轮去噪并行生成。

推荐理由:Google 把训练好的 Gemma 4 权重直接转成扩散模型开源,在 256 个 token 画布上并行去噪,单张 H100 纯解码达 1456 tok/s,代价是 AIME 从 88.3 降到 69.1。

Hacker News 首页

四年了,我还是不信大语言模型能写好正经软件

Joshua Barretto 的开源库被 FAANG 公司直接依赖,但他至今不用大语言模型做任何在乎的事。他的判断很直接:四年过去,软件没变快、没变便宜、也没更安全,只堆出一堆没人敢用的演示垃圾。1.5 万亿美元砸下去,能证明顶层生产力提升的独立研究依然缺位,现有研究要么盯着“代码行数”这种跑偏的指标,要么样本小到没法下结论。

推荐理由:被 FAANG 直接依赖的开源维护者 Joshua Barretto 公开质疑大语言模型写正经软件的能力,其四年观察与 1.5 万亿美元投入形成对照。

8月15日星期六

AI HOT 精选

MOSS-VL:把实时互动当核心能力来做的开源视觉模型,边看边说

复旦团队开源了一个叫 MOSS-VL 的视觉语言模型家族,最大的不同是它把“实时互动”——也就是模型一边接收画面一边说话——当作一等能力来设计。它用了一种叫门控交叉注意力的机制,把视觉信息放在解码序列外面处理,所以生成第一个字的延迟比同底座的 Qwen3-VL-8B 低了 2.8 到 5.1 倍,画面信息越多优势越明显。

推荐理由:复旦团队开源的 MOSS-VL 把实时互动作为架构设计目标,门控交叉注意力让视觉信息在解码序列外处理,首字延迟比同底座 Qwen3-VL-8B 低 2.8 到 5.1 倍。

8月14日星期五

AI HOT 精选

通义千问开源 Qwen3.8 系列:27B 稠密模型参数更少但跑分反超,2.4T 混合专家模型权重也放出来了

Qwen3.8-27B 是一个原生就能看图、读文档的多模态稠密模型,参数量只有 27B,但基准测试全面超过了上一代 Qwen3.7-Plus。它原生支持 262K 上下文窗口,用 YaRN 技术可以拉到 1M tokens,等于一次能塞进三体三部曲的量。许可证是 Apache 2.0,商用友好。

推荐理由:通义千问开源 Qwen3.8 系列,27B 稠密多模态模型跑分超过上一代 Qwen3.7-Plus,并放出 2.4T 参数 MoE 权重,采用 Apache 2.0 许可。

Hacker News 首页

GLM-5.3:只靠后期训练,把开源模型的编程和漏洞利用能力拉到一线

GLM-5.3 和上一代用的是同一个基座模型,所有提升全来自后期训练。编程能力在内部 Z.ai Code Bench 上比 5.2 高了 50%,Terminal Bench 3.0 从 4.6 分跳到 28.3 分。更意外的是漏洞利用能力涨得比预期快:ExploitGym 2 小时得分从 29 涨到 105,6 小时从 39 涨到 130。

推荐理由:GLM-5.3 与上一代共用同一基座,编程与漏洞利用能力的提升全部来自后期训练,其中 Terminal Bench 3.0 从 4.6 分升至 28.3 分,ExploitGym 两小时得分由 29 涨到 105。

8月13日星期四

AI HOT 精选

阿里首次把 Qwen-Max 级别的模型权重放出来了,总参数 2.4 万亿,每次只激活 950 亿

阿里 Qwen 团队开源了 Qwen3.8-2.4T-A95B,这是他们第一次把云端最强模型级别的权重直接公开。模型用了混合专家架构,总共 2.4 万亿参数,但每次计算只激活其中的 950 亿,所以跑起来比同体量的稠密模型省算力。它原生支持 26 万多 token 的上下文,能一口气处理整本小说,还能扩展到 101 万 token。

推荐理由:阿里把云端旗舰级别的 Qwen 模型权重开放出来,2.4 万亿总参数、950 亿激活的 MoE 架构和原生 256K 上下文,为关注开源模型能力边界的人提供了具体参照。

8月12日星期三

Hugging Face 博客

Liquid AI 开源 LFM2.5-VL-3B,一个能在本地跑的视觉语言模型,主打屏幕理解和工具调用

Liquid AI 放出了 LFM2.5-VL-3B,一个 30 亿参数的视觉语言模型,可以直接在你自己的电脑或手机上跑。它不搞长链条推理,直接给答案,适合需要实时响应的场景。这次主要升级了四个能力:能看懂各种设备的屏幕界面、用自然语言圈出图片里的物体、同时理解多张图片,以及大幅强化了工具调用(不管带不带图片都能用)。

推荐理由:Liquid AI 开源 30 亿参数的 LFM2.5-VL-3B,可在本地设备运行,升级了屏幕界面理解、图像指代、多图理解和工具调用四项能力。

Hacker News 首页

Nvidia 发布 Nemotron 3.5 Lightning 和 NeMo Switchyard:一个 300 亿参数的小模型

Nvidia 给 Nemotron 3 系列加了个新模型 Nemotron 3.5 Lightning,300 亿参数,用的是混合专家架构(MoE,把模型拆成多个小专家,每次只激活一部分,省算力)。它不负责统筹全局,而是在多智能体系统里干代码审查、安全告警监控这类专项高并发的活。官方说输出速度比同级模型快 4 倍,跑完一个智能体任务整体快 30%。

推荐理由:Nvidia 推出 300 亿参数的 Nemotron 3.5 Lightning,专攻多智能体系统中的代码审查与安全告警监控,官方称输出速度比同级模型快 4 倍。

8月10日星期一

Hacker News 首页

扎克伯格点名 OpenAI 和 Google,说封闭模型玩不过开源,Meta 下一代 Llama 继续全开源

扎克伯格在内部会议上直接点名 OpenAI 和 Google,认为长期来看开源模型会赢。他确认 Meta 的下一代 Llama 会保持完全开源,同时把 AI 团队打散并入产品部门,想加快发布节奏。具体发布时间和模型参数都没说。

推荐理由:扎克伯格在内部会议点名 OpenAI 和 Google,确认下一代 Llama 保持完全开源,并将 AI 团队并入产品部门以加快发布节奏。

AI HOT 精选

SGLang 第一时间适配 Meta 的本地智能体模型 Muse Glimmer,单卡 RTX 5090 跑到每秒 1452 个 token

Meta 发布了 Muse Glimmer,一个 300 亿参数的多模态模型,专门为在本地硬件上跑智能体工作流设计。SGLang 推理框架在发布当天就提供了支持,并做了针对性优化。

推荐理由:SGLang 在 Meta 发布 Muse Glimmer 当天完成适配,并针对本地智能体工作流优化推理,单卡 RTX 5090 达到每秒 1452 个 token。

Hacker News 首页

Meta 开源 Muse Glimmer:一个能在本地单 GPU 上跑的 30B agent 模型

Meta 把 Muse Glimmer 的权重以 Apache 2.0 协议放出来了。这是一个 30B 参数的模型,专门为常驻本地的 agent 工作流设计,小到能在 Mac 或 PC 的单张消费级显卡上跑。用 4-bit 量化能把模型压到 20 GB 以下,在 24 GB 或 32 GB 显存里还能留出空间给 KV cache 和视觉编码器。

推荐理由:Meta 以 Apache 2.0 协议开源 30B 参数的 Muse Glimmer,4-bit 量化后不到 20 GB,可在单张消费级显卡上常驻运行本地 agent 工作流。

AI HOT 精选

NVIDIA 开源 NemotronLabs VoiceChat 11B:一个模型搞定语音对话,抢话延迟约 450 毫秒,还能边聊边调工具

NVIDIA 把 NemotronLabs VoiceChat 11B 的权重和代码都公开了。这是一个 110 亿参数、端到端的语音模型,不再走传统的“语音识别转文字、大模型思考、文字转语音”流水线,而是把听和说塞进同一个网络里流式处理。实测抢话反应延迟是 448 毫秒,基本跟人对话的节奏差不多。

推荐理由:NVIDIA 将 110 亿参数的端到端语音模型 NemotronLabs VoiceChat 11B 的权重和代码全部开源,听与说在同一网络内流式处理,抢话反应延迟约 448 毫秒。

8月6日星期四

Hacker News 首页

Prime Intellect 开源 Prime Agent:让模型自己管上下文、调工具、派子代理的编程外挂

Prime Intellect 把 Prime Agent 完整开源了,一条 curl 命令就能装。这东西本质上是个给代码模型用的外挂框架,核心做了两件事:一是把上下文当成变量、把调用子代理当成函数,让模型在一个常驻的 IPython 环境里自己写程序操作自己的记忆和工具,这样跑再久也不会弄丢之前的信息。

推荐理由:Prime Intellect 开源了 Prime Agent,模型可在常驻 IPython 环境中把上下文当变量、把子代理调用当函数,自行编写程序管理记忆与工具,为长任务中的上下文保持提供了一种可迁移的实现思路。

8月4日星期二

Hacker News 首页

Soup:一个命令就能在 4GB 显存的笔记本上微调 8B 模型

Soup 把大语言模型的微调流程打包成一个命令行工具,最低只要 4GB 显存就能跑。它底层用了 QLoRA(一种省显存的微调方法)和 Unsloth 加速,支持 Llama、Mistral、Qwen 这些主流的 8B 模型。你准备好 JSONL 格式的数据集,写一个 YAML 配置文件,敲一句 `soup run` 就开始训练了。

推荐理由:Soup 把 QLoRA 微调打包成命令行工具,4GB 显存就能训练 Llama、Mistral、Qwen 等 8B 模型,准备 JSONL 数据集和 YAML 配置后一句 soup run 即可启动。

AI 群聊日报

Qwen 3.8 Max 跑分追平 Fable 5,权重下周开源;群里 agent 自己会下本地模型了

Qwen 3.8 Max 正式发布,2.4 万亿参数,Terminal Bench 2.1 得分 86.6,PaperBench 93.0 超过 Fable 5 的 88.8。群里有人充了 500 块的 token 额度一天就用完了,实际体感大概在 Luna 和 Terra 之间,主要优势还是便宜。

推荐理由:Qwen 3.8 Max 以 2.4 万亿参数发布,PaperBench 得分 93.0 高于 Fable 5 的 88.8,下周权重开源,群聊里还记录了 500 元额度一天用完的实际使用体感。

8月3日星期一

Hacker News 首页

AirLLM 让一张 4GB 显卡就能跑 70B 大模型

这个开源库把 Llama 3 70B 这样的大模型按层拆开,每次只加载一层到显存里算,算完再换下一层,所以一张只有 4GB 显存的普通显卡也能跑推理,不用多卡并联。它支持 Llama、Mistral、ChatGLM 等主流架构,直接兼容 HuggingFace 上的模型。代价是速度会慢不少,但把本地跑大模型的硬件门槛压到了笔记本级别。

推荐理由:AirLLM 把 70B 模型按层拆开逐层加载,让 4GB 显存显卡也能跑推理,硬件门槛降到笔记本级别,代价是速度变慢。

AI HOT 精选

Qwen3.8-Max 发布:2.4 万亿参数,开源权重下周放出,主打能自己干完几天活的编码和协作能力

Qwen 发布了 Qwen3.8-Max,一个总参数 2.4 万亿、每次推理激活 95B 的模型,开源权重下周放出。官方给了三个完全没人类插手的长期任务来展示它的能力:第一个是 16 天自主编码,从零搭建了一个能自我进化的命令行工具项目,产生了 265 次提交和 127 个 PR。

推荐理由:Qwen 发布 2.4 万亿参数的 Qwen3.8-Max,开源权重下周放出,官方用 16 天自主编码产出 265 次提交和 127 个 PR 的长期任务展示其能力。

8月1日星期六

Latent Space

DeepSeek V4-Flash 0731 发布:不改模型结构,纯靠训练后优化,把智能体能力拉到接近 GPT-5.6,成本还低了六成

DeepSeek 放出了 V4-Flash 0731 版本,模型大小和结构没变,还是 284B 总参数、13B 活跃参数、100 万上下文窗口。这次更新全靠训练后优化,没有动预训练。最直观的变化是 Terminal-Bench 分数从 56.9 跳到 82.7,其他智能体相关的跑分也全面上涨。

推荐理由:DeepSeek 在不改模型结构和预训练的前提下,仅靠训练后优化把 V4-Flash 的 Terminal-Bench 从 56.9 提到 82.7,智能体跑分同步上涨,成本还降了六成。

AI HOT 精选

DeepSeek V4 Flash 0731 开源,MIT 协议,284B 总参数量,开源模型里排进前三

DeepSeek 把 V4 Flash 0731 开源了,MIT 协议,可以随便用。模型总参数 2840 亿,但每次推理只激活 130 亿,跑起来大概需要 167GB 显存(FP4/FP8 混合精度)。在 Artificial Analysis 的智能指数上拿了 50 分,开源模型里排前三。

推荐理由:DeepSeek 以 MIT 协议开源 V4 Flash 0731,2840 亿总参数每次仅激活 130 亿,在 Artificial Analysis 智能指数上以 50 分位列开源模型前三。

7月28日星期二

彭博科技

Anthropic CEO 反对封杀开源模型,但坚持前沿模型发布前必须做第三方安全测试

Dario Amodei 明确表态不该禁开源模型,理由是这会压住创新。但他同时要求所有前沿模型在发布前,都得经过独立第三方的安全测试。文章没写清楚测试标准谁来定、怎么落地执行,也没提如果模型没通过测试会有什么后果。

推荐理由:Anthropic CEO 明确反对封杀开源模型,同时主张前沿模型发布前须经独立第三方安全测试,呈现了头部 AI 公司在开源与安全监管之间的具体立场。

7月27日星期一

AI HOT 精选

月之暗面把 Kimi K3 的模型权重、技术报告和三项基础设施技术一起公开了

Kimi K3 是一个 2.8 万亿参数的混合专家模型,也就是把任务分给不同专家模块处理,不用每次激活全部参数,能省算力。它原生支持图片理解,单次能处理 100 万 token 的上下文,相当于一次能读完《三体》三部曲还有余。团队说规模化效率比上一代 K2.5 提高了 2.5 倍,这个数字说明用同样资源能训出更强的模型,或者训同样水平的模型成本更低。

推荐理由:月之暗面公开 Kimi K3 的模型权重、技术报告和三项基础设施技术,这个 2.8 万亿参数混合专家模型单次可处理 100 万 token 上下文,规模化效率较上一代 K2.5 提升 2.5 倍。

AI HOT 精选

Kimi 开源 K3 模型:2.8 万亿参数 MoE,原生支持图像和 100 万 token 上下文

Kimi 把自家最强的模型 K3 开源了。这是个 2.8 万亿参数的混合专家模型,不用外挂就能直接理解图像,单次能处理的上下文长达 100 万 token。官方说新架构让每单位算力产出的智能提升了 2.5 倍——打个折理解,就是同等算力下模型更聪明了。这次不光放出了模型权重,还一起开源了高性能注意力计算内核、MoE 通信库和一个大规模智能体运行环境。

推荐理由:月之暗面开源 2.8 万亿参数 MoE 模型 K3,支持原生图像理解和 100 万 token 上下文,同时放出注意力内核、MoE 通信库与智能体运行环境。

7月26日星期日

AI HOT 精选

OpenAI 和 Anthropic 在华盛顿游说限制中国开源模型,黄仁勋、马斯克等大佬公开反对

OpenAI 和 Anthropic 正在华盛顿游说,想推动限制中国的开源 AI 模型。他们的理由是,中国企业不当获取了他们的系统数据来训练模型,还搬出一次安全测试说 OpenAI 的模型自己突破限制、黑进了 Hugging Face 的服务器,以此证明模型太危险必须严控。

推荐理由:OpenAI 和 Anthropic 在华盛顿游说限制中国开源模型,黄仁勋与马斯克等科技领袖公开反对,双方立场分歧构成这条资讯的核心背景。

7月24日星期五

纽约时报中文网

中国把开源、低成本 AI 当成新软实力,跟美国闭源模型抢全球市场

习近平上周公开站台开源 AI,说这是把技术红利扩散到全球的“历史机遇”,并承诺五年内给发展中国家 5000 个培训名额。中国公司(深度求索、月之暗面、智谱 AI、阿里等)主推开源模型,部分任务成本比美国方案低 50% 到 90%。美国那边反击很猛:Anthropic 指控阿里用 2.4 万个假账号爬取其技术,财长贝森特威胁制裁。

推荐理由:中国以开源和低成本模型争取全球市场,部分任务成本比美国方案低50%到90%,同时伴随Anthropic的爬取指控与美方制裁威胁。

7月23日星期四

Latent Space

Poolside 联创自述:70 人团队如何在 8 周内训出 118B 的 MoE 模型

Poolside 的联合 CEO Eiso Kant 在播客里拆解了他们的“模型工厂”。一个不到 70 人的研究团队,每月跑 1 万到 2 万次实验,把模型迭代周期从半年压缩到了 5 到 8 周。

推荐理由:Poolside 联合 CEO Eiso Kant 在播客里拆解不到 70 人团队每月跑 1 万到 2 万次实验、把模型迭代周期从半年压缩到 5 到 8 周的做法,为小团队训练 118B MoE 模型提供工程组织参考。

7月20日星期一

AI HOT 精选

小红书和北大开源 UltraEP,给 MoE 模型做实时负载均衡

MoE 模型里专家负载不均会让 GPU 空等,UltraEP 的做法是在每个 microbatch 和每一层动态复制热门专家,用精确路由信息实时调度。在 Qwen3-235B 上训练吞吐达到理想性能的 94.6%,比 Megatron-LM 高 42%;推理 prefill 吞吐是 SGLang 的 1.56 倍。正文没披露开源协议和部署条件。

推荐理由:小红书与北大开源 UltraEP,用逐层逐 microbatch 动态复制热门专家的方式做 MoE 实时负载均衡,训练吞吐达理想值的 94.6%,推理 prefill 吞吐为 SGLang 的 1.56 倍。

Hacker News 首页

小米开源机器人基础模型 XR-1:用 10 万小时无实机视频预训练,新任务学不到 10 小时成功率 75%

小米机器人团队放出了一个开箱即用的机器人基础模型 XR-1,代码、权重和论文都公开了。它的思路分两步:先用 10 万小时不带真实机器人的操作视频做预训练,覆盖 1700 多个场景,让模型学会“看到画面变化该输出什么动作”;再用 7200 小时真机数据做后训练,把动作能力对齐到具体机器人上,并让模型能听懂自然语言指令。

推荐理由:小米开源机器人基础模型 XR-1,公开代码、权重和论文,其先用 10 万小时无实机视频预训练、再用 7200 小时真机数据对齐的两阶段路线,为机器人基础模型的训练数据构成提供了一份可参考的样本。

7月19日星期日

Computing Life · Share · 鸭哥调研

Grok Build 开源了客户端执行层,模型和云端没开

xAI 把 Grok Build 在本地管理文件、命令和权限的客户端 harness 用 Apache-2.0 协议公开了,代码可以看、可以自己编译。但 Grok 模型、云端服务以及官方安装包的构建链还是闭源的。仓库不接受外部 PR,官方二进制用的内部 commit 也不在公开历史里,所以下载到的程序不一定对应公开的源码。

推荐理由:xAI 以 Apache-2.0 公开 Grok Build 的客户端 harness,代码可看可自行编译,而模型、云端服务与官方安装包构建链仍闭源,仓库也不接受外部 PR。