跳到正文

数据与训练

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

最新精选

第 101–120 条 · 共 173 条

5月25日星期一

r/LocalLLaMA

《金融时报》报道了去安全护栏工具 Heretic,称其 10 分钟内就能解除 Meta Llama 3.3 的限制

Reddit 用户分享了一篇《金融时报》的文章,主角是一个叫 Heretic 的工具。这个工具专门用来移除开源模型(比如 Meta 的 Llama 3.3)内置的安全护栏,让模型能回答原本被禁止的敏感问题。文章提到,Heretic 的创建者 Philipp Emanuel Weidmann 说,用这个工具不到 10 分钟就能搞定一个模型。

推荐理由:《金融时报》报道了去安全护栏工具 Heretic,其创建者称不到 10 分钟即可解除 Meta Llama 3.3 的内置限制,让模型回答原本被禁止的敏感问题。

5月24日星期日

r/LocalLLaMA

OpenBMB 在华为昇腾 NPU 上把大模型从头训成 1.58-bit,8B 模型性能保住全精度 97%

OpenBMB 放出了 BitCPM-CANN,一个在华为昇腾 NPU 上原生跑通的 1.58-bit(三值)大模型训练方案。他们用和 MiniCPM4 一样的架构与数据,从零训了 0.5B、1B、3B、8B 四个尺寸。

推荐理由:OpenBMB 在华为昇腾 NPU 上从零训练了 0.5B 到 8B 四个 1.58-bit 三值模型,8B 性能保留全精度的 97%,训练阶段即完成极低比特压缩。

机器之心 · 公众号

Meta 裁员后留下的员工被塞进新坑:技术经理回去写代码,AI 工程师转岗做数据标注

这篇文章讲的是 Meta 裁员后没走的人日子也不好过。公司开始把一些工程经理重新赶回一线写代码(IC 岗),同时把部分做基础设施和 AI 的工程师调去搞数据标注。文章提到一个关键数字:经理和下属的比例从以前的 1:8 直接拉到了 1:50,说明管理层被大幅压缩。

推荐理由:Meta 裁员后把部分工程经理调回一线写代码,并将基础设施和 AI 工程师转去做数据标注,经理与下属比例从 1:8 变为 1:50。

5月23日星期六

Mistral AI

Mistral 收购 Physics AI 公司 Emmi AI

Mistral AI 宣布已达成收购 Physics AI 先驱 Emmi AI 的最终协议,以强化其作为工业企业 AI 转型伙伴的定位。Emmi AI 成立于奥地利,专注物理 AI 与大型工程模型,可加速工程工作流、以实时仿真替代多日计算并构建数字孪生。Emmi 的联合创始人及 30 多名研究人员和工程师将于 5 月加入 Mistral 的 Science 与 Applied AI 团队。

推荐理由:Mistral 收购奥地利物理 AI 公司 Emmi AI,30 多名研究人员将于 5 月加入其科学与应用 AI 团队,补强工业仿真与数字孪生能力。

5月21日星期四

新智元 · 公众号

中科大两篇顶会论文:教多模态大模型持续学新知识,同时不忘旧本事

中科大团队在顶会上发了两篇工作,专门解决多模态大模型“学新忘旧”的问题。一篇是 MMEVOKE,搞了一个包含 159 个子类、9422 个样本的评测集,用来检验模型在持续学习中会不会把之前的知识覆盖掉。另一篇是 KORE,提出用知识树扩充样本,再通过零空间约束微调来减少遗忘。

推荐理由:中科大团队用 MMEVOKE 评测集和 KORE 微调方法,针对多模态大模型持续学习中的遗忘问题给出可复用的评测与训练思路。

r/LocalLLaMA

HRM 1B:一个用极低成本训练的小模型,性能号称能打 2B-7B 的开源选手

Sapientinc 开源了一个叫 HRM-Text 1B Base 的小模型,连训练代码也一起放出来了。论文里的说法是,它的性能可以和 2B 到 7B 的开源模型掰手腕,但训练用的数据量只有别人的百分之一到九百分之一,算力消耗更是只有别人的 1/96 到 1/432。

推荐理由:Sapientinc 开源 HRM-Text 1B Base 及训练代码,论文称其性能对标 2B 至 7B 开源模型,训练数据量仅为对手的百分之一到九百分之一。

5月19日星期二

量子位 · 公众号

京东和中科院信工所连发三篇论文,提出让大模型“自己教自己”的强化学习路线

这篇推文本身因为环境异常没加载出正文,我只能根据标题和外部信息给你还原一下。京东和中科院信工所联合发了三篇论文,核心思路叫 Self-Taught RLVR,也就是让模型在强化学习里自己生成训练信号、自己教自己,省掉人工标注或外部奖励模型。

推荐理由:京东与中科院信工所联合发布三篇论文,提出 Self-Taught RLVR 路线,让模型在强化学习中自行生成训练信号,省去人工标注与外部奖励模型。

机器之心 · 公众号

从卖 token 到背 KPI:AI 公司开始按结果收费了

这篇文章讲的是 AI 商业模式的一个转向:不再按调用次数或月费收钱,而是直接对业务结果负责。Sierra 今年 5 月拿了 9.5 亿美元,估值超过 150 亿,做的就是客服场景的“结果即服务”——你只为它成功解决的客诉买单。灵犀(Lingxi)则说自己在 2025 年已经实现规模化盈利和正向现金流,同样走按效果付费的路子。

推荐理由:Sierra 按成功解决的客诉收费、灵犀称 2025 年实现规模化盈利,文章呈现 AI 公司从按调用量收费转向对业务结果负责的定价方式。

AI HOT 精选

Cursor 发布 Composer 2.5,底层和 Kimi K2.5 同源,号称效率提升 10 倍

Cursor 把 Composer 模型升级到了 2.5,说它在处理长任务、理解复杂指令上比之前强了不少,同等能力下效率能高出 10 倍。这次升级主要靠三件事:训练规模更大、强化学习环境搞得更复杂,还加了一套文本反馈机制,让模型能根据文字反馈自己调整。底层架构跟 Moonshot 的 Kimi K2.5 是同一套。

推荐理由:Cursor 将 Composer 升级到 2.5,称长任务与复杂指令处理更强、同等能力下效率提升 10 倍,底层架构与 Kimi K2.5 同源。

AI HOT 精选

Cursor 发布 Composer 2.5 编程模型,长任务效率号称提升十倍

Cursor 推出了 Composer 2.5,一个专门做长代码任务的模型。官方说在连续几十甚至上百步的复杂编程里,效率最高能到之前的十倍。技术上的关键是用了文本反馈来训练,解决了十万 token 级别超长轨迹的学习问题,让模型能稳定跟完一长串指令。底座还是拿 Moonshot 的 Kimi K2.5 继续训出来的。

推荐理由:Cursor 发布 Composer 2.5,用文本反馈训练解决十万 token 级长轨迹学习问题,官方称连续上百步复杂编程效率最高提升十倍。

AI HOT 精选

NVIDIA 用 LoRA/DoRA 微调 Cosmos Predict 2.5,让它能生成机器人第一视角视频

NVIDIA 发了一篇技术博客,教你怎么用 LoRA 和 DoRA 这两种轻量微调方法,去训练他们自家的 Cosmos Predict 2.5 视频模型。目标是让模型能根据文字指令,生成机器人看到的画面,比如机械臂在桌上抓东西。

推荐理由:NVIDIA 在技术博客中演示用 LoRA 和 DoRA 轻量微调 Cosmos Predict 2.5,让模型按文字指令生成机械臂抓取等机器人第一视角画面,为具身智能提供一条低成本造训练视频的路径。

5月18日星期一

机器之心 · 公众号

华为 GTS 在 ICML 2026 发了一篇用推理熵值动态挑训练样本的方法,Amazon 和 Google 的作者也跟进了类似思路

这篇论文提出了一种叫 EDCO 的动态课程微调方法,核心是用模型推理时的“熵值”来判断样本难度,自动挑出当前模型最该学的数据,而不是靠人手动分阶段。他们搞了个前缀熵值估算,把每一条样本的评分时间从 2.24 秒压到了 0.37 秒,省了不少算力。

推荐理由:华为GTS提出EDCO动态课程微调方法,用推理熵值判断样本难度自动挑选训练数据,其前缀熵值估算把单样本评分时间从2.24秒降到0.37秒。

r/LocalLLaMA

TIME:让 Qwen 模型只在需要时短思考,而不是一直过度推理

作者用 QLoRA 在 Qwen3 的 4B 到 32B 全系列上训练了一个叫 TIME 的方法,核心思路是当上下文发生变化时,模型才触发一段简短的中途推理,避免没完没了地“想太多”。帖子说数据集、notebook、训练脚本、课程学习方案和 TIMEBench 评测都公开了,24GB 显存就能训到 14B 规模。

推荐理由:作者用 QLoRA 在 Qwen3 的 4B 到 32B 全系列上训练 TIME,让模型只在上下文变化时触发简短中途推理,数据集、训练脚本和 TIMEBench 评测均已公开。

AI HOT 精选

Cursor 发布 Composer 2.5,用文字反馈教模型改掉坏习惯,合成数据规模翻了 25 倍

Cursor 把代码助手 Composer 升级到了 2.5 版,底层还是基于月之暗面的 Kimi K2.5 开源模型。这次主要做了三件事:一是用“文字反馈强化学习”,在模型犯错的地方直接插一句提示(比如“提醒:可用工具有这些”),让模型在那个点上学会纠正,而不是靠最后的总分去猜哪里做错了。

推荐理由:Cursor 将 Composer 升级到 2.5 版,采用文字反馈强化学习,在模型出错处插入提示引导纠正,并把合成数据规模扩大 25 倍。

5月17日星期日

Google DeepMind

Google DeepMind 推出 Gemini for Science 科学工具集

Google DeepMind 发布 Gemini for Science,包含 Google Labs 上三个实验性工具:基于 Co-Scientist 的 Hypothesis Generation。

推荐理由:Google DeepMind 将 Co-Scientist、AlphaEvolve 等研究原型打包为 Gemini for Science,在 Google Labs 开放三个实验工具,覆盖假设生成、计算发现与文献分析。

量子位 · 公众号

TGO:不用人工挑好坏样本,靠一个分数就能把生图模型调得更听话

新加坡国立大学搞了个叫 TGO(阈值引导优化)的方法,被 ICML 2026 收了。它最大的好处是不需要提前构造“这张比那张好”的偏好对,直接拿一个标量分数(比如美学分、图文匹配度)就能做对齐。做法是先让模型生成一批图,算出分数的分布,定一个阈值:高于阈值的当正样本往上拉,低于的当负样本往下压。

推荐理由:新加坡国立大学的 TGO 被 ICML 2026 收录,它跳过偏好对构造,直接用美学分或图文匹配度这类标量分数定阈值来对齐视觉生成模型。

Dwarkesh Patel 播客

预训练并行策略与翻车训练笔记

这篇笔记聊了两件事:预训练为什么容易跑崩,以及怎么把训练拆到多张 GPU 上。跑崩的核心原因有两个——破坏因果性和引入偏差。比如 MoE 路由里用专家选择(expert choice)分配 token,会让 token n 的去向依赖 token n+k 的路由结果,训练时看到了推理时看不到的信息。

推荐理由:作者拆解了预训练跑崩的两个原因,并解释 MoE 路由中专家选择为何让 token 的去向依赖后续路由结果,训练时看到推理时拿不到的信息。

5月15日星期五

r/LocalLLaMA

用强化学习让 Qwen3.5 自己攻自己,再把失败案例喂回去加固防线

作者搭了一套全自动的红队演练循环:先训练一个攻击模型,用强化学习(GRPO)对着 Qwen3.5 不断尝试越狱,成功诱导出有害回答就给奖励。第一轮攻击很快塌缩成同一种“写小说”套路,翻来覆去就一招。后来他们把攻击按底层策略聚类,奖励除以该策略的使用次数,逼攻击模型去挖新花样,这才炸出 7 类不同的越狱手法,其中虚构创作类占比最高,达 34%。

推荐理由:作者用强化学习训练攻击模型对 Qwen3.5 自动越狱,并按策略聚类惩罚重复手法,逼出 7 类不同攻击方式,其中虚构创作类占 34%。

r/LocalLLaMA

让 7B 小模型从自己的错误里学习,HumanEval 正确率从 15% 涨到 68%,跑一次训练只要 3.5 美元

作者拿 Qwen 2.5 7B 基础模型做实验,先让它自己写代码、自己跑测试,把跑不过的代码和报错信息收集起来,再让它根据报错改出正确版本,这样就自动生成了“错误-修正”配对数据。用这批数据微调后,7B 模型在 HumanEval 上的通过题数从 25 题(约 15%)提升到 112 题(约 68%),数学能力也超过了 GPT-3.5。

推荐理由:作者让 Qwen 2.5 7B 自己写代码、跑测试,把报错和修正过程做成训练数据,微调后 HumanEval 通过率从约 15% 升到约 68%,展示了用模型自身错误生成训练样本的可行路径。

r/LocalLLaMA

MOOSE-Star:用 7B 小模型和 10 万篇论文做科学假设发现,ICML 2026 接收

MiroMind 放出了 MOOSE-Star 系列,包含三个 7B 模型和一个叫 TOMATO-Star 的数据集,里面有 108,717 篇 NCBI 论文。

推荐理由:MiroMind 公开 MOOSE-Star 系列三个 7B 模型与含 108,717 篇 NCBI 论文的 TOMATO-Star 数据集,模型权重和数据集均可获取,为科学假设发现方向提供可复用的训练资源。