跳到正文

研究与技术报告

厂商和机构的官方研究文章与技术报告:架构创新、训练方法、能力测量与安全研究的解读。本站不收纯学术论文。

最新精选

第 81–100 条 · 共 315 条

6月3日星期三

机器之心 · 公众号

蚂蚁灵波在 RSS 2026 提出首个自回归因果世界模型,用 50 条演示数据就能让机器人学会通用操控

蚂蚁灵波和港科大搞了个叫 LingBot-VA 的模型,把“预测画面接下来怎么变”和“判断该做什么动作”合到一个自回归框架里。论文说,每个任务只用 50 条真实世界的演示数据微调,在 RoboTwin 2.0 的简单和困难设定下,成功率分别到了 92.0% 和 91.1%。

推荐理由:蚂蚁灵波与港科大提出 LingBot-VA,把画面预测与动作决策合入自回归框架,每个任务仅用 50 条真实演示数据微调,在 RoboTwin 2.0 上报告了 92.0% 和 91.1% 的成功率。

量子位 · 公众号

大晓机器人和南洋理工搞了个统一物理3D生成框架,刚体、软体、带关节的物体都能一次搞定

这个框架叫PhysX-Omni,目标是让生成的3D模型直接能进物理仿真跑起来,不用再手动修。它把刚体、软体和关节体三类物体的生成统一到一个流程里,省掉了以前要分开处理的麻烦。配套的PhysXVerse数据集有8700个资产,覆盖2900个类别,规模不小。

推荐理由:大晓机器人与南洋理工把刚体、软体和关节体的3D生成统一进PhysX-Omni一个流程,配套PhysXVerse数据集含8700个资产、覆盖2900个类别,省去分开处理再手动修模的环节。

Computing Life · Share · 鸭哥调研

MAI-Thinking-1:让模型持续思考几千步不崩,比让它开始思考难得多

微软 MAI-Thinking-1 的技术报告没在吹模型多会解题,而是在讲怎么让强化学习训练别崩。他们给 GRPO 算法打了三个补丁:一个像恒温器一样动态调节模型的“自信度”,防止它变得死板或乱猜;一个像断路器,在梯度爆炸时直接截断,保住整批训练数据;还有一套自蒸馏抢救流程,训练万一崩了,能把之前学会的推理能力搬到新模型上继续跑。

推荐理由:微软 MAI-Thinking-1 技术报告讲的是强化学习训练不崩,给 GRPO 打了动态调节自信度、梯度截断和自蒸馏抢救三个补丁,对做推理模型训练的人有方法层面的参考。

Computing Life · Share · 鸭哥调研

vibe coding 之后:AI 编程的工业化

MAI 从 487 万个开源 PR 里筛出 26.5 万道可训练题目,又为它们建了一套三层判分体系。AI 编程这两年真正的变化不是模型变聪明了,而是训练基础设施被工业化了:出题从手工活变成了流水线,批改也从“单测全绿就行”升级到能检查工具使用效率和前端视觉质量。

推荐理由:MAI 从 487 万个开源 PR 中筛出 26.5 万道可训练题目,并搭建三层判分体系,把代码题的批改从单测通过扩展到工具使用效率与前端视觉质量。

AI HOT 精选

微软放出 MAI-Thinking-1,35B 活跃参数的 MoE 模型,没靠蒸馏自己从头训

微软发了 MAI-Thinking-1,一个混合专家(MoE)模型,总参数 1 万亿但每次只激活 350 亿,跑起来相对省算力。它用 30T token 从零预训练,没拿第三方模型做蒸馏,这点比较硬气。微软管自己的迭代优化流程叫“爬山机器”,听着像在反复试错往上拱。

推荐理由:微软发布 MAI-Thinking-1,总参数 1 万亿、每次激活 350 亿,用 30T token 从零预训练且未做第三方蒸馏,MoE 稀疏激活与自研训练路径是这条的主要看点。

6月2日星期二

机器之心 · 公众号

DataMaster:让模型自己搜数据、洗数据、拼数据,MLE-Bench Lite 奖牌率从 35.91% 拉到 68.18%

这篇论文提出了 DataMaster,一个让大模型自己当数据工程师的流程。它不碰模型结构和训练算法,只做三件事:自动搜索外部数据、清洗脏数据、把多个数据集拼成一张表。在 MLE-Bench Lite 这个机器学习竞赛基准上,DataMaster 把奖牌率从 35.91% 提到了 68.18%,几乎翻倍。

推荐理由:DataMaster 让大模型自己完成外部数据搜索、清洗与多表拼接,不改模型结构和训练算法,在 MLE-Bench Lite 上把奖牌率从 35.91% 提到 68.18%。

机器之心 · 公众号

图灵奖得主 Sutton 新论文:AI 的下一步,得学会在行动中理解世界

这篇文章的正文被微信环境验证挡住了,实际内容没抓到。从标题和摘要看,Banafsheh Rafiee 和 Richard S. Sutton 提了一个叫“生成认知”的框架,给 AI 立了四根柱子:经验、感知与行动不可分、自主性、具身性。说白了就是主张智能不能光靠看数据,得在跟环境互动的过程中长出来。但具体怎么实现、有没有实验,正文没披露,这点先别太激动。

推荐理由:图灵奖得主 Sutton 与 Rafiee 提出生成认知框架,主张智能在经验、感知与行动的互动中生成,为理解 AI 下一步方向提供了一种不同于数据驱动的思路。

FT · 科技

头部 AI 实验室开始正经研究机器有没有“意识”

Google DeepMind、Anthropic 和 Meta 都在研究 AI 能不能产生意识,以及这对人意味着什么。但正文被付费墙挡了,没披露具体用什么方法、有没有时间表、怎么才算“有意识”的评判标准。

推荐理由:Google DeepMind、Anthropic 和 Meta 都在研究 AI 能否产生意识及其对人的影响,这条呈现头部实验室把机器意识纳入正式研究议程的动向。

6月1日星期一

AI HOT 精选

JetBrains 发布 Mellum2:一个 12B 参数的混合专家模型,每次推理只激活 2.5B 参数

JetBrains 在 Hugging Face 上开源了 Mellum2,一个从零开始训练的混合专家模型。它总共有 120 亿参数,但每次计算只激活其中的 25 亿,这让它跑起来比同尺寸模型快了一倍多,适合对延迟和吞吐量要求高的场景。

推荐理由:JetBrains 开源了 120 亿参数的混合专家模型 Mellum2,每次推理只激活 25 亿参数,运行速度比同尺寸模型快一倍多,适合关注推理延迟与吞吐的场景。

Import AI

AI 监管比想象中难;蛋白质折叠模型也找到了规模定律;有人给 AI 灭绝风险估了个价

这期 Import AI 聊了几件事。美国 AI 经济的真实增速可能被严重低估了:名义 GDP 在 2025 年约 2500 亿美元,但算上质量提升,实际年增速接近 2600%。之所以在常规统计里看不出来,是因为 AI 推理价格跌得和性能涨得几乎一样快,而且数据中心建设规模还没大到能明显拉动 GDP。

推荐理由:这期 Import AI 把 AI 灭绝风险当作可定价的经济问题来讨论,并给出美国 AI 经济名义规模约 2500 亿美元、质量调整后年增速接近 2600% 的估算。

r/LocalLLaMA

我在一张 RTX 3060 上给冻结的 1.4B Mamba 主干挂了 8 个推理专家臂,这是拆解报告

作者用一张 12GB 显存的 RTX 3060 训练了一个叫 Mamba-Titan-1.4B-Reasoning 的模型。做法是把一个 1.4B 参数的 Mamba-1 主干完全冻结,只在第 24、25 层外挂了 8 个可训练的专家臂,组成一个总参数量 2.54B 的混合专家模型,每次推理只激活其中 2 个专家。数学题准确率大概做到 50%。

推荐理由:作者在单张 RTX 3060 上冻结 1.4B 的 Mamba 主干,只在第 24、25 层外挂 8 个可训练专家臂,把总参数做到 2.54B,每次推理只激活 2 个专家,数学题准确率约 50%。

5月31日星期日

机器之心 · 公众号

人大高瓴发了一篇40页综述,专门讲怎么给大模型打分

这篇综述把“评分标准(Rubrics)”这件事拆成了五个部分来讲:定义、怎么构建、怎么用来训练、怎么用来评估、以及还没解决的难题。它想回答一个很实际的问题:在模型能自己调用工具、走流程干活的 Agent 时代,光看答案对不对已经不够了,得有一套更细的尺子来衡量“好答案”到底好在哪里。

推荐理由:人大高瓴团队用40页综述把评分标准拆成定义、构建、训练、评估与未解难题五部分,回应Agent时代光看答案对错已不够的评测需求。

量子位 · 公众号

复旦和通义搞了个 ToolCUA,专门教 Agent 在屏幕上选对工具

现在给 Agent 塞一堆工具,它经常不知道该点哪个。复旦和通义实验室提出了一套叫 ToolCUA 的训练方法,核心是用约 4000 个合成工具和 18 万步的“屏幕操作+工具调用”交叉轨迹来训练模型。他们训出来的 ToolCUA-8B 在 OSWorld-MCP 基准上跑到了 46.85% 的准确率。

推荐理由:复旦与通义实验室提出 ToolCUA 训练方法,用约 4000 个合成工具和 18 万步交叉轨迹教 Agent 在屏幕上选对工具,其 8B 模型在 OSWorld-MCP 基准上达到 46.85% 准确率。

5月30日星期六

机器之心 · 公众号

港中文新优化器 Pion 在“等谱流形”上更新大模型,解决 AdamW 和 Muon 训练崩溃问题

香港中文大学等团队搞了个新优化器叫 Pion,核心思路是不动权重矩阵的奇异值,只在“等谱流形”上做正交等价变换来更新参数。他们拿一个 6000 万参数、没用归一化层的类 LLaMA 模型试跑,Pion 稳定训练了 96 亿个 token,而 AdamW 和 Muon 都崩出 NaN 了。

推荐理由:香港中文大学团队提出优化器 Pion,保持权重矩阵奇异值不变、仅在等谱流形上做正交变换更新参数,在 6000 万参数无归一化模型上稳定训练 96 亿 token,而 AdamW 和 Muon 均出现 NaN。

机器之心 · 公众号

苹果搞了个叫 PICO 的图像压缩方案,画质不变,文件能小到三分之一

苹果发了篇论文介绍 PICO,一个用 AI 做图像压缩的编解码器。在主观画质差不多的情况下,它比 AV1、VVC 和 JPEG AI 省 57% 到 70% 的码率,也就是说文件体积能压到原来的三分之一甚至更少。在 iPhone 17 Pro Max 上跑,压一张 1200 万像素的照片要 230 毫秒,解压要 150 毫秒。

推荐理由:苹果论文介绍 PICO 图像编解码器,在主观画质相近时比 AV1、VVC 和 JPEG AI 省 57% 到 70% 码率,并在 iPhone 17 Pro Max 上给出端侧编解码耗时。

机器之心 · 公众号

英伟达和清华的 γ-World 把世界模型从单机改成了联机,登顶 HuggingFace 日榜

这篇推文本身因为微信环境验证没抓到正文,我只能根据已有的英文摘要和标题来还原。γ-World 是一个多智能体世界模型,核心是把多个 AI 角色放在同一个虚拟环境里互动。它用了一种叫“单纯形位置编码”的方法和 hub token 机制,把多个智能体之间的交互计算成本从平方级降到了线性级。

推荐理由:英伟达与清华团队提出多智能体世界模型 γ-World,用单纯形位置编码和 hub token 把智能体间交互的计算成本从平方级降到线性级。

5月29日星期五

AI HOT 精选

Adam's Law:用模型训练时见过的高频词写提示,效果更好

FaceMind 团队在 100 种语言和四类核心任务上做了实验,结论很简单:保持意思不变,把提示词或微调文本换成预训练语料里出现频率更高的说法,大模型的表现会明显提升。他们把这个规律叫 Adam's Law(文本频率定律),相当于给数据工程补上了“频率”这个维度。原理不复杂——高频表达让模型在自己最熟悉的概率空间里干活,输出质量自然更稳。

推荐理由:FaceMind 团队在 100 种语言和四类任务上验证,把提示词换成预训练语料中的高频说法能提升大模型表现,为提示词写法提供了一个频率维度的思路。

机器之心 · 公众号

TogetherAI 搞了个真 2-bit 的 KV 缓存压缩方案 OSCAR,长上下文推理能跑更快

TogetherAI 和合作方发布了 OSCAR,一个把 KV 缓存压到平均每个值只占 2.28 比特的压缩系统,已经接进了 SGLang 推理框架。在 10 万 token 的长上下文场景里,解码速度最高能到原来的 3 倍;在固定显存预算下,整个任务吞吐量最高能到 7 倍。正文没披露具体模型和测试硬件,也没说精度损失有多大,这点先别太激动。

推荐理由:TogetherAI 发布 OSCAR,把 KV 缓存压到平均每值 2.28 比特并接入 SGLang,10 万 token 场景解码最高提速 3 倍,固定显存下吞吐最高 7 倍。

机器之心 · 公众号

Meta 烧了 1830 亿 token,把 26 本数学教材翻译成了机器可验证的 Lean 代码库

Meta 放出了一个叫 ATLAS 的数学形式化库,用 Lean 4 语言把 26 本数学教材里的定义和证明搬了进去。整个工程消耗了 1830.57 亿个 token,生成了约 63 万行代码,包含 46203 条声明。其中 42837 个证明已经跑通,证明通过率 92.7%。

推荐理由:Meta 用 1830 亿 token 将 26 本数学教材转成 Lean 4 形式化库 ATLAS,约 63 万行代码中 42837 个证明已跑通,通过率 92.7%。

机器之心 · 公众号

马嘉祺让大模型翻车,背后是低频词退化问题,有人一年前洗澡时就发现了

文章页面被微信环境验证挡住了,正文内容没拿到。从现有标题和英文摘要看,讲的是 FaceMind 团队把大模型在“马嘉祺”这类低频词上翻车的现象,和两篇论文串了起来:一篇是 EMNLP 2025 的 SLoW,另一篇是刚被 ACL 2026 接收为 Oral 的 Adam's Law。

推荐理由:FaceMind 团队把大模型在低频词上翻车的现象与 SLoW、Adam's Law 两篇论文串起来,梳理了低频 token 退化的机制解释。