跳到正文

#数据/训练

今日 6 条

6月3日星期三

AI HOT 精选

微软 Build 2026:生图超谷歌,推理还在追

微软在 Build 2026 一口气发了七个自研模型,头一回做推理模型 MAI-Thinking-1。这是个万亿参数、每次激活 350 亿的大家伙,上下文窗口 12.8 万 token,专啃多步指令和代码。内部盲测说比 Anthropic 的 Sonnet 4.6 更受偏爱,但看公开跑分,大概跟 DeepSeek V3.2 打个平手。

推荐理由:微软在 Build 2026 发布七个自研模型,其中万亿参数的 MAI-Thinking-1 是其推理模型,内部盲测偏好度超过 Anthropic Sonnet 4.6,公开跑分与 DeepSeek V3.2 接近。

The Verge · AI

英国裁定:谷歌必须让网站主能拒绝内容被 AI 搜索功能抓取

英国竞争与市场管理局(CMA)对谷歌提出新要求:网站主现在可以把自己的内容从 AI 搜索概览(AI Overviews)这类功能里撤出来,也能禁止谷歌拿这些内容去微调自己的 AI 模型。说白了,就是给了内容方一个“别用我的东西训练你”的选项。不过正文没披露这个退出机制具体怎么操作、是统一开关还是按功能细拆,也没说谷歌需要在多长时间内落实。

推荐理由:英国竞争与市场管理局要求谷歌允许网站主将内容从 AI 搜索概览中撤出,并禁止用于微调其 AI 模型,内容方由此获得对训练数据用途的选择权。

机器之心 · 公众号

大模型 SFT 的算力浪费有救了:同质化数据训练几百步就该停,新方法能提前揪出过拟合

这篇文章正文被微信环境验证挡住了,看不到具体内容。从标题和已有的英文摘要看,Junpeng Zhang 他们发现,用高度同质化的数据做 SFT 时,有效训练窗口其实很短,大概几百到一千步左右。他们搞了一个基于交互信号的预警方法,能在 loss 差距还没拉大之前就检测到过拟合,据称能省下 30% 到 50% 的训练算力。

推荐理由:Junpeng Zhang 等人发现同质化数据做 SFT 的有效训练窗口只有几百到一千步,并提出基于交互信号的预警方法,在 loss 差距拉大前检测过拟合,据称可省下 30% 到 50% 的训练算力。

6月2日星期二

r/LocalLLaMA

我花了几个月钻进 verl 的 RL 训练框架,最后还是放弃了:内部机制、维护分支的代价,还有一个 NCCL 的坑

作者深入研究了字节跳动的 verl(一个做 RLHF 强化学习微调的开源框架),把它的核心流程拆了一遍:DataProto 数据协议怎么走,模型怎么生成回答(rollout),怎么打分(reward),怎么算优势函数(advantage),最后怎么更新模型。

推荐理由:作者拆解了 verl 的 RLHF 训练流程,从 DataProto 数据协议到 rollout、reward、优势计算与模型更新,并记录了维护分支的代价和一处 NCCL 问题。

AI HOT 精选

NVIDIA Cosmos 3 在开放权重模型里拿了图像和视频生成双料第一

NVIDIA 的 Cosmos 3 在 Artificial Analysis 的开放权重榜单上,文本生图和图片转视频两项都排到了第一。它用了一种叫 Mixture-of-Transformers 的架构,把自回归推理器和扩散生成器拼在一起,有 16B 参数的 Nano 版和 64B 参数的 Super 版。

推荐理由:NVIDIA 的 Cosmos 3 在 Artificial Analysis 开放权重榜单上同时拿下文本生图和图片转视频第一,其 Mixture-of-Transformers 架构把自回归推理器与扩散生成器组合在一起。

6月1日星期一

AI HOT 精选

OpenBMB 放出两个开源数据集,预训练语料和 SFT 样本都给了,HuggingFace 趋势榜第一

OpenBMB 跟清华 NLP、Modelbest 一起发了两个数据集,都挂在 HuggingFace 上。一个是 Ultra-FineWeb-L3,给预训练用的合成数据,总量超过 600B token,其中英文 400B+、中文 200B+,是目前最大的开源中文预训练合成数据集。

推荐理由:OpenBMB 联合清华 NLP 与 Modelbest 开源 Ultra-FineWeb-L3 等两个数据集,其中文预训练合成数据超 200B token,为中文预训练和指令微调补充了可直接取用的语料与样本。

r/LocalLLaMA

我在一张 RTX 3060 上给冻结的 1.4B Mamba 主干挂了 8 个推理专家臂,这是拆解报告

作者用一张 12GB 显存的 RTX 3060 训练了一个叫 Mamba-Titan-1.4B-Reasoning 的模型。做法是把一个 1.4B 参数的 Mamba-1 主干完全冻结,只在第 24、25 层外挂了 8 个可训练的专家臂,组成一个总参数量 2.54B 的混合专家模型,每次推理只激活其中 2 个专家。数学题准确率大概做到 50%。

推荐理由:作者在单张 RTX 3060 上冻结 1.4B 的 Mamba 主干,只在第 24、25 层外挂 8 个可训练专家臂,把总参数做到 2.54B,每次推理只激活 2 个专家,数学题准确率约 50%。

5月31日星期日

量子位 · 公众号

复旦和通义搞了个 ToolCUA,专门教 Agent 在屏幕上选对工具

现在给 Agent 塞一堆工具,它经常不知道该点哪个。复旦和通义实验室提出了一套叫 ToolCUA 的训练方法,核心是用约 4000 个合成工具和 18 万步的“屏幕操作+工具调用”交叉轨迹来训练模型。他们训出来的 ToolCUA-8B 在 OSWorld-MCP 基准上跑到了 46.85% 的准确率。

推荐理由:复旦与通义实验室提出 ToolCUA 训练方法,用约 4000 个合成工具和 18 万步交叉轨迹教 Agent 在屏幕上选对工具,其 8B 模型在 OSWorld-MCP 基准上达到 46.85% 准确率。

5月30日星期六

机器之心 · 公众号

港中文新优化器 Pion 在“等谱流形”上更新大模型,解决 AdamW 和 Muon 训练崩溃问题

香港中文大学等团队搞了个新优化器叫 Pion,核心思路是不动权重矩阵的奇异值,只在“等谱流形”上做正交等价变换来更新参数。他们拿一个 6000 万参数、没用归一化层的类 LLaMA 模型试跑,Pion 稳定训练了 96 亿个 token,而 AdamW 和 Muon 都崩出 NaN 了。

推荐理由:香港中文大学团队提出优化器 Pion,保持权重矩阵奇异值不变、仅在等谱流形上做正交变换更新参数,在 6000 万参数无归一化模型上稳定训练 96 亿 token,而 AdamW 和 Muon 均出现 NaN。

5月29日星期五

AI HOT 精选

Adam's Law:用模型训练时见过的高频词写提示,效果更好

FaceMind 团队在 100 种语言和四类核心任务上做了实验,结论很简单:保持意思不变,把提示词或微调文本换成预训练语料里出现频率更高的说法,大模型的表现会明显提升。他们把这个规律叫 Adam's Law(文本频率定律),相当于给数据工程补上了“频率”这个维度。原理不复杂——高频表达让模型在自己最熟悉的概率空间里干活,输出质量自然更稳。

推荐理由:FaceMind 团队在 100 种语言和四类任务上验证,把提示词换成预训练语料中的高频说法能提升大模型表现,为提示词写法提供了一个频率维度的思路。

机器之心 · 公众号

马嘉祺让大模型翻车,背后是低频词退化问题,有人一年前洗澡时就发现了

文章页面被微信环境验证挡住了,正文内容没拿到。从现有标题和英文摘要看,讲的是 FaceMind 团队把大模型在“马嘉祺”这类低频词上翻车的现象,和两篇论文串了起来:一篇是 EMNLP 2025 的 SLoW,另一篇是刚被 ACL 2026 接收为 Oral 的 Adam's Law。

推荐理由:FaceMind 团队把大模型在低频词上翻车的现象与 SLoW、Adam's Law 两篇论文串起来,梳理了低频 token 退化的机制解释。

5月28日星期四

量子位 · 公众号

DeepSeek V4 用上华为昇腾芯片做训练,国产算力生态开始跑通闭环

这篇文章本身因为微信环境验证失败,正文内容没抓到,只能根据标题和摘要信息来聊。标题里提到的“芯模协同”,指的是 DeepSeek V4 在训练时直接跟华为昇腾芯片做适配优化,不是先拿英伟达跑完再移植。摘要里说 CANN(华为的 AI 计算框架)一口气开源了 65 个代码仓库,并且支持 70 多个主流模型“开箱即用”,不用等适配。

推荐理由:DeepSeek V4 在训练阶段直接与华为昇腾芯片做适配优化,CANN 开源 65 个代码仓库并支持 70 多个主流模型开箱即用,国产算力从芯片到框架再到模型的协同路径有了具体进展。

机器之心 · 公众号

国产预训练具身大模型 Wall-OSS-0.5 开源,宣称跳过微调也能直接干活

X Square Robot 开源了一个叫 Wall-OSS-0.5 的视觉-语言-动作模型,主打“预训练完就能用”。他们放出了 40 万步的预训练 checkpoint,在 17 个真实机器人零样本任务里,有 4 个成功率超过 80%。这次开源的东西挺全:权重、代码、训练配方、消融实验,还有一个叫 DMuon 的优化器实现。

推荐理由:X Square Robot 开源视觉-语言-动作模型 Wall-OSS-0.5,放出 40 万步预训练 checkpoint,在 17 个真机零样本任务中 4 个成功率超 80%,并附权重、代码与训练配方。

AI HOT 精选

英伟达开源 Polar 框架,不改代码就能让 Codex 跑分涨近 6 倍

英伟达搞了个叫 Polar 的开源框架,专门解决一个实际问题:怎么在不重写 Codex、Claude Code 这些现成代码工具的前提下,用强化学习(GRPO,一种让模型在多步任务里根据奖励信号自己学会更优操作的训练方法)去训练它们。

推荐理由:英伟达开源 Polar 框架,让 Codex 无需重写代码即可用强化学习训练,为现成代码工具的能力提升提供了一条可迁移的路径。

r/LocalLLaMA

有人整理了一份1030亿token的Usenet语料,覆盖1980到2013年,全是真人发言、没有AI污染

一个叫OwnerByDane的用户放出了一套从Usenet新闻组扒下来的语料,总规模1031亿token,包含4.08亿条帖子,横跨18347个新闻组,时间从1980年一直拉到2013年。这套数据最大的卖点是“前互联网时代、纯人类产出、零AI生成内容”,对想避开模型训练数据被AI输出污染的开发者来说,算是个稀缺资源。

推荐理由:这套语料含1031亿token、4.08亿条帖子,时间跨度从1980年到2013年,全部来自Usenet真人发言,为需要避开AI生成内容的研究者提供了前互联网时代的原始文本。

5月27日星期三

机器之心 · 公众号

AMD 论文发现 FP4 训练不稳,锅不在随机性不够

AMD 和宾州州立大学用 MI355X 原生 FP4 硬件预训练了 Llama 3.1-8B,端到端速度比 FP8 基线快了 9-10%。但论文指出,Wgrad(权重梯度)量化是拖后腿的环节,导致每个 token 的计算开销额外增加 26-27%,而且用确定性 Hadamard 方法也稳不住。正文没披露最终模型的验证集效果对比,这点先别太激动。

推荐理由:AMD 与宾州州立大学在 MI355X 上用原生 FP4 预训练 Llama 3.1-8B,端到端比 FP8 基线快 9-10%,但权重梯度量化让每 token 开销多出 26-27%。

AI HOT 精选

面壁智能开源 ForgeTrain,一个完全由 AI 写出来的模型训练框架,零人类代码

面壁智能、清华和 OpenBMB 开源了 ForgeTrain,一个完全由 AI 编写、没有人类代码介入的大模型训练框架。他们用这套框架在华为昇腾芯片上预训练了 MiniCPM5-1B,这个模型在 AA 榜单的 2B 参数以下级别里排到了第一。同时开源的还有制造 ForgeTrain 的 Agent Harness 工具链。

推荐理由:面壁智能联合清华和 OpenBMB 开源了完全由 AI 编写的大模型训练框架 ForgeTrain,并已用它在华为昇腾芯片上完成 MiniCPM5-1B 预训练,可了解训练流程自动化的具体路径。

AI HOT 精选

TRL 新增增量权重同步:只传模型变化的部分,每步传输量从 1.2GB 降到 20-35MB

异步强化学习训练有个很现实的问题:每一步训练器都得把整个模型发给推理引擎。一个 7B 模型用 bf16 格式就要传 14GB,换成万亿参数模型更是要传 TB 级别的数据。Hugging Face 团队发现,在两次优化步骤之间,大约 99% 的 bf16 权重其实完全没变,真正变动的部分很小。

推荐理由:Hugging Face 在 TRL 中实现增量权重同步,只传两次优化间变动的权重,Qwen3-0.6B 单步载荷从 1.2GB 降至 20 至 35MB,为分布式训练的通信开销提供了一种压缩思路。

5月26日星期二

AI HOT 精选

商汤把 SenseNova-U1 的训练代码全开源了,一个框架同时训生图、修图、交错生成和理解

OpenSenseNova 在 GitHub 上放出了 SenseNova-U1 的完整训练代码,用 Apache-2.0 协议。代码覆盖了 8B 稠密模型和 A3B MoE(混合专家)架构,在一个统一框架里支持四种多模态任务:文生图、图片编辑、图文交错生成,以及文本与视觉理解。

推荐理由:商汤在 GitHub 以 Apache-2.0 协议开源 SenseNova-U1 完整训练代码,覆盖 8B 稠密与 A3B MoE 两种规格,一个框架同时支持文生图、图片编辑、图文交错生成和理解四类任务。

机器之心 · 公众号

xAI 解散但 Grok 没停,马斯克预告新模型

马斯克说,1.5 万亿参数的 Grok V9-Medium 已经训完了,过几天开始做强化学习,计划两到三周后发布。Grok Build 现在支持同时跑 8 个子代理,上下文窗口拉到 25.6 万 token,还加了计划模式、竞技场模式、MCP 和 ACP。不过正文因为微信环境验证失败,具体技术细节和评测数据都没披露,这些功能实际效果怎么样还得等实测。

推荐理由:马斯克称1.5万亿参数的Grok V9-Medium已训完,计划两到三周后发布,Grok Build同步支持8个子代理和25.6万token上下文,模型竞赛的下一轮节奏由此可循。

r/LocalLLaMA

一位律师用 12 块 V100 显卡搭本地集群跑法律文书起草,Qwen3.5-122B 模型跑到约 50 token/秒

Reddit 上一位律师分享了自己用 12 块 32GB 显存的 SXM V100 显卡搭建本地 AI 集群的进展,专门用来起草法律文书。核心模型是 Qwen3.5-122B-A10B,在 4 块 V100 上推理速度大约 50 token/秒。

推荐理由:一位律师用 12 块 32GB 显存的 V100 搭建本地集群,在 4 块卡上以约 50 token/秒运行 Qwen3.5-122B 起草法律文书,展示了大模型本地部署在专业场景的可行配置。

5月25日星期一

r/LocalLLaMA

《金融时报》报道了去安全护栏工具 Heretic,称其 10 分钟内就能解除 Meta Llama 3.3 的限制

Reddit 用户分享了一篇《金融时报》的文章,主角是一个叫 Heretic 的工具。这个工具专门用来移除开源模型(比如 Meta 的 Llama 3.3)内置的安全护栏,让模型能回答原本被禁止的敏感问题。文章提到,Heretic 的创建者 Philipp Emanuel Weidmann 说,用这个工具不到 10 分钟就能搞定一个模型。

推荐理由:《金融时报》报道了去安全护栏工具 Heretic,其创建者称不到 10 分钟即可解除 Meta Llama 3.3 的内置限制,让模型回答原本被禁止的敏感问题。

5月24日星期日

r/LocalLLaMA

OpenBMB 在华为昇腾 NPU 上把大模型从头训成 1.58-bit,8B 模型性能保住全精度 97%

OpenBMB 放出了 BitCPM-CANN,一个在华为昇腾 NPU 上原生跑通的 1.58-bit(三值)大模型训练方案。他们用和 MiniCPM4 一样的架构与数据,从零训了 0.5B、1B、3B、8B 四个尺寸。

推荐理由:OpenBMB 在华为昇腾 NPU 上从零训练了 0.5B 到 8B 四个 1.58-bit 三值模型,8B 性能保留全精度的 97%,训练阶段即完成极低比特压缩。

机器之心 · 公众号

Meta 裁员后留下的员工被塞进新坑:技术经理回去写代码,AI 工程师转岗做数据标注

这篇文章讲的是 Meta 裁员后没走的人日子也不好过。公司开始把一些工程经理重新赶回一线写代码(IC 岗),同时把部分做基础设施和 AI 的工程师调去搞数据标注。文章提到一个关键数字:经理和下属的比例从以前的 1:8 直接拉到了 1:50,说明管理层被大幅压缩。

推荐理由:Meta 裁员后把部分工程经理调回一线写代码,并将基础设施和 AI 工程师转去做数据标注,经理与下属比例从 1:8 变为 1:50。

5月23日星期六

Mistral AI

Mistral 收购 Physics AI 公司 Emmi AI

Mistral AI 宣布已达成收购 Physics AI 先驱 Emmi AI 的最终协议,以强化其作为工业企业 AI 转型伙伴的定位。Emmi AI 成立于奥地利,专注物理 AI 与大型工程模型,可加速工程工作流、以实时仿真替代多日计算并构建数字孪生。Emmi 的联合创始人及 30 多名研究人员和工程师将于 5 月加入 Mistral 的 Science 与 Applied AI 团队。

推荐理由:Mistral 收购奥地利物理 AI 公司 Emmi AI,30 多名研究人员将于 5 月加入其科学与应用 AI 团队,补强工业仿真与数字孪生能力。

5月21日星期四

新智元 · 公众号

中科大两篇顶会论文:教多模态大模型持续学新知识,同时不忘旧本事

中科大团队在顶会上发了两篇工作,专门解决多模态大模型“学新忘旧”的问题。一篇是 MMEVOKE,搞了一个包含 159 个子类、9422 个样本的评测集,用来检验模型在持续学习中会不会把之前的知识覆盖掉。另一篇是 KORE,提出用知识树扩充样本,再通过零空间约束微调来减少遗忘。

推荐理由:中科大团队用 MMEVOKE 评测集和 KORE 微调方法,针对多模态大模型持续学习中的遗忘问题给出可复用的评测与训练思路。

r/LocalLLaMA

HRM 1B:一个用极低成本训练的小模型,性能号称能打 2B-7B 的开源选手

Sapientinc 开源了一个叫 HRM-Text 1B Base 的小模型,连训练代码也一起放出来了。论文里的说法是,它的性能可以和 2B 到 7B 的开源模型掰手腕,但训练用的数据量只有别人的百分之一到九百分之一,算力消耗更是只有别人的 1/96 到 1/432。

推荐理由:Sapientinc 开源 HRM-Text 1B Base 及训练代码,论文称其性能对标 2B 至 7B 开源模型,训练数据量仅为对手的百分之一到九百分之一。

5月19日星期二

量子位 · 公众号

京东和中科院信工所连发三篇论文,提出让大模型“自己教自己”的强化学习路线

这篇推文本身因为环境异常没加载出正文,我只能根据标题和外部信息给你还原一下。京东和中科院信工所联合发了三篇论文,核心思路叫 Self-Taught RLVR,也就是让模型在强化学习里自己生成训练信号、自己教自己,省掉人工标注或外部奖励模型。

推荐理由:京东与中科院信工所联合发布三篇论文,提出 Self-Taught RLVR 路线,让模型在强化学习中自行生成训练信号,省去人工标注与外部奖励模型。

机器之心 · 公众号

从卖 token 到背 KPI:AI 公司开始按结果收费了

这篇文章讲的是 AI 商业模式的一个转向:不再按调用次数或月费收钱,而是直接对业务结果负责。Sierra 今年 5 月拿了 9.5 亿美元,估值超过 150 亿,做的就是客服场景的“结果即服务”——你只为它成功解决的客诉买单。灵犀(Lingxi)则说自己在 2025 年已经实现规模化盈利和正向现金流,同样走按效果付费的路子。

推荐理由:Sierra 按成功解决的客诉收费、灵犀称 2025 年实现规模化盈利,文章呈现 AI 公司从按调用量收费转向对业务结果负责的定价方式。

AI HOT 精选

Cursor 发布 Composer 2.5,底层和 Kimi K2.5 同源,号称效率提升 10 倍

Cursor 把 Composer 模型升级到了 2.5,说它在处理长任务、理解复杂指令上比之前强了不少,同等能力下效率能高出 10 倍。这次升级主要靠三件事:训练规模更大、强化学习环境搞得更复杂,还加了一套文本反馈机制,让模型能根据文字反馈自己调整。底层架构跟 Moonshot 的 Kimi K2.5 是同一套。

推荐理由:Cursor 将 Composer 升级到 2.5,称长任务与复杂指令处理更强、同等能力下效率提升 10 倍,底层架构与 Kimi K2.5 同源。

AI HOT 精选

Cursor 发布 Composer 2.5 编程模型,长任务效率号称提升十倍

Cursor 推出了 Composer 2.5,一个专门做长代码任务的模型。官方说在连续几十甚至上百步的复杂编程里,效率最高能到之前的十倍。技术上的关键是用了文本反馈来训练,解决了十万 token 级别超长轨迹的学习问题,让模型能稳定跟完一长串指令。底座还是拿 Moonshot 的 Kimi K2.5 继续训出来的。

推荐理由:Cursor 发布 Composer 2.5,用文本反馈训练解决十万 token 级长轨迹学习问题,官方称连续上百步复杂编程效率最高提升十倍。

AI HOT 精选

NVIDIA 用 LoRA/DoRA 微调 Cosmos Predict 2.5,让它能生成机器人第一视角视频

NVIDIA 发了一篇技术博客,教你怎么用 LoRA 和 DoRA 这两种轻量微调方法,去训练他们自家的 Cosmos Predict 2.5 视频模型。目标是让模型能根据文字指令,生成机器人看到的画面,比如机械臂在桌上抓东西。

推荐理由:NVIDIA 在技术博客中演示用 LoRA 和 DoRA 轻量微调 Cosmos Predict 2.5,让模型按文字指令生成机械臂抓取等机器人第一视角画面,为具身智能提供一条低成本造训练视频的路径。

5月18日星期一

机器之心 · 公众号

华为 GTS 在 ICML 2026 发了一篇用推理熵值动态挑训练样本的方法,Amazon 和 Google 的作者也跟进了类似思路

这篇论文提出了一种叫 EDCO 的动态课程微调方法,核心是用模型推理时的“熵值”来判断样本难度,自动挑出当前模型最该学的数据,而不是靠人手动分阶段。他们搞了个前缀熵值估算,把每一条样本的评分时间从 2.24 秒压到了 0.37 秒,省了不少算力。

推荐理由:华为GTS提出EDCO动态课程微调方法,用推理熵值判断样本难度自动挑选训练数据,其前缀熵值估算把单样本评分时间从2.24秒降到0.37秒。

r/LocalLLaMA

TIME:让 Qwen 模型只在需要时短思考,而不是一直过度推理

作者用 QLoRA 在 Qwen3 的 4B 到 32B 全系列上训练了一个叫 TIME 的方法,核心思路是当上下文发生变化时,模型才触发一段简短的中途推理,避免没完没了地“想太多”。帖子说数据集、notebook、训练脚本、课程学习方案和 TIMEBench 评测都公开了,24GB 显存就能训到 14B 规模。

推荐理由:作者用 QLoRA 在 Qwen3 的 4B 到 32B 全系列上训练 TIME,让模型只在上下文变化时触发简短中途推理,数据集、训练脚本和 TIMEBench 评测均已公开。

AI HOT 精选

Cursor 发布 Composer 2.5,用文字反馈教模型改掉坏习惯,合成数据规模翻了 25 倍

Cursor 把代码助手 Composer 升级到了 2.5 版,底层还是基于月之暗面的 Kimi K2.5 开源模型。这次主要做了三件事:一是用“文字反馈强化学习”,在模型犯错的地方直接插一句提示(比如“提醒:可用工具有这些”),让模型在那个点上学会纠正,而不是靠最后的总分去猜哪里做错了。

推荐理由:Cursor 将 Composer 升级到 2.5 版,采用文字反馈强化学习,在模型出错处插入提示引导纠正,并把合成数据规模扩大 25 倍。

5月17日星期日

Google DeepMind

Google DeepMind 推出 Gemini for Science 科学工具集

Google DeepMind 发布 Gemini for Science,包含 Google Labs 上三个实验性工具:基于 Co-Scientist 的 Hypothesis Generation。

推荐理由:Google DeepMind 将 Co-Scientist、AlphaEvolve 等研究原型打包为 Gemini for Science,在 Google Labs 开放三个实验工具,覆盖假设生成、计算发现与文献分析。

量子位 · 公众号

TGO:不用人工挑好坏样本,靠一个分数就能把生图模型调得更听话

新加坡国立大学搞了个叫 TGO(阈值引导优化)的方法,被 ICML 2026 收了。它最大的好处是不需要提前构造“这张比那张好”的偏好对,直接拿一个标量分数(比如美学分、图文匹配度)就能做对齐。做法是先让模型生成一批图,算出分数的分布,定一个阈值:高于阈值的当正样本往上拉,低于的当负样本往下压。

推荐理由:新加坡国立大学的 TGO 被 ICML 2026 收录,它跳过偏好对构造,直接用美学分或图文匹配度这类标量分数定阈值来对齐视觉生成模型。

Dwarkesh Patel 播客

预训练并行策略与翻车训练笔记

这篇笔记聊了两件事:预训练为什么容易跑崩,以及怎么把训练拆到多张 GPU 上。跑崩的核心原因有两个——破坏因果性和引入偏差。比如 MoE 路由里用专家选择(expert choice)分配 token,会让 token n 的去向依赖 token n+k 的路由结果,训练时看到了推理时看不到的信息。

推荐理由:作者拆解了预训练跑崩的两个原因,并解释 MoE 路由中专家选择为何让 token 的去向依赖后续路由结果,训练时看到推理时拿不到的信息。

5月15日星期五

r/LocalLLaMA

用强化学习让 Qwen3.5 自己攻自己,再把失败案例喂回去加固防线

作者搭了一套全自动的红队演练循环:先训练一个攻击模型,用强化学习(GRPO)对着 Qwen3.5 不断尝试越狱,成功诱导出有害回答就给奖励。第一轮攻击很快塌缩成同一种“写小说”套路,翻来覆去就一招。后来他们把攻击按底层策略聚类,奖励除以该策略的使用次数,逼攻击模型去挖新花样,这才炸出 7 类不同的越狱手法,其中虚构创作类占比最高,达 34%。

推荐理由:作者用强化学习训练攻击模型对 Qwen3.5 自动越狱,并按策略聚类惩罚重复手法,逼出 7 类不同攻击方式,其中虚构创作类占 34%。

r/LocalLLaMA

让 7B 小模型从自己的错误里学习,HumanEval 正确率从 15% 涨到 68%,跑一次训练只要 3.5 美元

作者拿 Qwen 2.5 7B 基础模型做实验,先让它自己写代码、自己跑测试,把跑不过的代码和报错信息收集起来,再让它根据报错改出正确版本,这样就自动生成了“错误-修正”配对数据。用这批数据微调后,7B 模型在 HumanEval 上的通过题数从 25 题(约 15%)提升到 112 题(约 68%),数学能力也超过了 GPT-3.5。

推荐理由:作者让 Qwen 2.5 7B 自己写代码、跑测试,把报错和修正过程做成训练数据,微调后 HumanEval 通过率从约 15% 升到约 68%,展示了用模型自身错误生成训练样本的可行路径。