跳到正文

研究与技术报告

厂商和机构的官方研究文章与技术报告:架构创新、训练方法、能力测量与安全研究的解读。本站不收纯学术论文。

最新精选

第 141–160 条 · 共 315 条

5月21日星期四

TechCrunch · AI

OpenAI 说这次真解决了一个 80 年的数学难题

OpenAI 声称他们的新推理模型推翻了一个自 1946 年悬而未决的几何猜想。七个月前他们刚因为类似宣称翻过车——当时说 GPT-5 解决了 10 个未解难题,结果被扒出只是找到了文献里已有的答案,前副总裁 Kevin Weil 只好删帖。这次不一样的地方在于,上次揭穿他们的数学家这回站到了 OpenAI 这边。

推荐理由:OpenAI 称新推理模型推翻了一个自 1946 年悬而未决的几何猜想,而七个月前揭穿其类似宣称的数学家这次站到了 OpenAI 这边。

5月20日星期三

Hacker News 首页

字节跳动开源 Lance:一个模型同时搞定图片和视频的理解、生成与编辑

Lance 是字节跳动放出的一个多模态研究项目,把看图、看视频、生成图片、生成视频和编辑这些事塞进了同一个模型里。模型激活参数只有 3B,个头不大,训练用了不到 128 张 GPU,对想复现或微调的人来说门槛不算高。代码、论文和模型权重都公开了,但项目页没写具体的 benchmark 跑分和商用许可条款,这点先别太激动,得自己去翻论文和 HF 页面确认。

推荐理由:字节跳动开源 Lance,把图像与视频的理解、生成和编辑放进同一个模型,激活参数 3B,训练用不到 128 张 GPU,代码、论文和权重均已公开。

OpenAI News

OpenAI 一个没公开名字的模型推翻了一道 80 年的离散几何猜想

OpenAI 发了一篇博文,说他们内部一个通用推理模型自己解决了一道叫“平面单位距离问题”的数学难题,推翻了大家信了几十年的主流猜想。这道题是 Erdős 在 1946 年提出的,简单说就是平面上放 n 个点,最多能有多少对点距离刚好是 1。

推荐理由:OpenAI 称其内部一个未公开名字的通用推理模型独立解决了 1946 年提出的平面单位距离问题,推翻了学界信守数十年的主流猜想。

r/LocalLLaMA

英伟达放出 Nemotron-Labs-Diffusion 模型,用扩散解码把 8B 模型跑到 850 tok/s

英伟达发了 Nemotron-Labs-Diffusion 系列,包含 3B、8B 和 14B 三个稠密模型。这组模型同时支持传统的自回归解码和新的扩散并行解码,还带了一种叫 self-speculation 的加速技巧。

推荐理由:英伟达发布 Nemotron-Labs-Diffusion 系列,3B 到 14B 三个稠密模型同时支持自回归与扩散并行解码,并加入 self-speculation 加速技巧。

AI HOT 精选

Google 把 Gemini 科研助手 ERA 发在 Nature 上,并开放早期测试

Google Research 在《自然》杂志上发表了他们基于 Gemini 的“经验研究助手”(ERA),同时通过 Google Labs 的可信测试者计划开放了早期访问。这个工具想帮研究人员自动完成文献综述、提出假设和设计实验这些耗时的工作。

推荐理由:Google Research 将基于 Gemini 的科研助手 ERA 发表在《自然》并开放早期测试,其定位是自动完成文献综述、假设提出与实验设计。

5月19日星期二

r/LocalLLaMA

Sapient 发布 HRM-Text 1B:40B token 预训练,成本约 1000 美元,数学和阅读理解分数超过 Llama3.2 3B

Sapient Intelligence 开源了一个 10 亿参数的小模型 HRM-Text 1B,用 16 张 GPU 跑了 1.9 天,喂了 400 亿个 token,总花费大概 1000 美元。

推荐理由:Sapient Intelligence 用 16 张 GPU、1.9 天和约 1000 美元预训练出 10 亿参数的 HRM-Text 1B,其 MATH 与 DROP 成绩高于 Llama3.2 3B,展示了小模型低成本训练的一种路径。

量子位 · 公众号

京东和中科院信工所连发三篇论文,提出让大模型“自己教自己”的强化学习路线

这篇推文本身因为环境异常没加载出正文,我只能根据标题和外部信息给你还原一下。京东和中科院信工所联合发了三篇论文,核心思路叫 Self-Taught RLVR,也就是让模型在强化学习里自己生成训练信号、自己教自己,省掉人工标注或外部奖励模型。

推荐理由:京东与中科院信工所联合发布三篇论文,提出 Self-Taught RLVR 路线,让模型在强化学习中自行生成训练信号,省去人工标注与外部奖励模型。

新智元 · 公众号

港中大和浙大团队认为,现在 AI Agent 的“记忆”只是备忘录,不是真记忆

这篇文章的正文被微信环境验证挡住了,具体实验细节看不到。从标题和现有摘要看,港中大和浙大的研究者戳破了一个常见说法:主流 AI Agent 的记忆模块,本质上是把过往信息存起来、用的时候再检索出来,相当于一个备忘录,而不是真正具备推理能力的记忆。他们指出,处理需要组合多个步骤的任务时,这种检索式记忆需要的案例数会按 k² 增长,成本很高。

推荐理由:港中大和浙大研究者指出主流 AI Agent 的记忆模块只是检索式备忘录,处理多步组合任务时所需案例数按 k² 增长,成本随之上升。

机器之心 · 公众号

Sebastian Raschka 梳理了 Gemma 4 到 DeepSeek V4 的架构变化,重点在省显存和长上下文

这篇文章是机器之心翻译的 Sebastian Raschka 博客,盘点了几款新模型的架构改动,核心都在想办法降低长上下文的显存开销。Gemma 4 的 E2B 方案在 128K 上下文、bfloat16 精度下,KV 缓存能省大约 2.7GB,这个数字挺实在的。

推荐理由:Sebastian Raschka 梳理了 Gemma 4 到 DeepSeek V4 几款新模型的架构改动,主线是降低长上下文显存开销,其中 Gemma 4 的 E2B 方案在 128K 上下文下 KV 缓存可省约 2.7GB。

AI HOT 精选

奥德赛实验室放出 Agora-1,一个能让多人和 AI 在同一画面里实时互动的世界模型

奥德赛实验室(Odyssey Labs)发了一个叫 Agora-1 的实时多 agent 世界模型,拿《黄金眼》死亡竞赛做了个演示:多个真人和 AI agent 在同一个模拟场景里跑动、射击、互相影响。现在放出了可玩的研究预览版,你可以直接上手试。

推荐理由:奥德赛实验室发布 Agora-1 实时多 agent 世界模型,并放出可玩的研究预览版,真人与 AI 在同一模拟场景中跑动、射击、互相影响。

5月18日星期一

Import AI

AI界的震网病毒、有缺陷的Muon优化器,以及“正向对齐”

SentinelOne拆解了一个叫fast16.sys的老病毒,它专门篡改高精度计算软件在内存里的结果,可能被用来破坏核武器开发等工程模拟,在震网病毒出现前五年就已存在。Tilde Research发现流行的Muon优化器有个致命缺陷:训练初期会导致MLP层里超过四分之一的神经元永久“死亡”,再也救不回来。

推荐理由:SentinelOne拆解的fast16.sys在震网病毒出现前五年就篡改内存中的高精度计算结果,Tilde Research则发现Muon优化器会让MLP层超四分之一神经元在训练初期永久死亡。

量子位 · 公众号

Agent 学会自己从失败里长技能了:EvolveR 被 ICML 2026 接收

这篇讲的是让 AI 智能体在干活时,把成功和失败的经验都存下来,变成一个可复用的技能库。方法叫 EvolveR,核心是给经验打分、建库,再用 GRPO 训练智能体学会什么时候该去库里检索经验。论文在七个复杂问答基准上测了 Qwen2.5-3B 和 7B,说平均性能是目前最好的。

推荐理由:EvolveR 把智能体成功与失败的经验打分建库,并用 GRPO 训练其判断何时检索,在七个复杂问答基准上测试了 Qwen2.5-3B 和 7B。

机器之心 · 公众号

华为 GTS 在 ICML 2026 发了一篇用推理熵值动态挑训练样本的方法,Amazon 和 Google 的作者也跟进了类似思路

这篇论文提出了一种叫 EDCO 的动态课程微调方法,核心是用模型推理时的“熵值”来判断样本难度,自动挑出当前模型最该学的数据,而不是靠人手动分阶段。他们搞了个前缀熵值估算,把每一条样本的评分时间从 2.24 秒压到了 0.37 秒,省了不少算力。

推荐理由:华为GTS提出EDCO动态课程微调方法,用推理熵值判断样本难度自动挑选训练数据,其前缀熵值估算把单样本评分时间从2.24秒降到0.37秒。

r/LocalLLaMA

TIME:让 Qwen 模型只在需要时短思考,而不是一直过度推理

作者用 QLoRA 在 Qwen3 的 4B 到 32B 全系列上训练了一个叫 TIME 的方法,核心思路是当上下文发生变化时,模型才触发一段简短的中途推理,避免没完没了地“想太多”。帖子说数据集、notebook、训练脚本、课程学习方案和 TIMEBench 评测都公开了,24GB 显存就能训到 14B 规模。

推荐理由:作者用 QLoRA 在 Qwen3 的 4B 到 32B 全系列上训练 TIME,让模型只在上下文变化时触发简短中途推理,数据集、训练脚本和 TIMEBench 评测均已公开。

5月17日星期日

量子位 · 公众号

TGO:不用人工挑好坏样本,靠一个分数就能把生图模型调得更听话

新加坡国立大学搞了个叫 TGO(阈值引导优化)的方法,被 ICML 2026 收了。它最大的好处是不需要提前构造“这张比那张好”的偏好对,直接拿一个标量分数(比如美学分、图文匹配度)就能做对齐。做法是先让模型生成一批图,算出分数的分布,定一个阈值:高于阈值的当正样本往上拉,低于的当负样本往下压。

推荐理由:新加坡国立大学的 TGO 被 ICML 2026 收录,它跳过偏好对构造,直接用美学分或图文匹配度这类标量分数定阈值来对齐视觉生成模型。

机器之心 · 公众号

AI Agent 的隐性账单:多花 1000 倍 token,效果未必更好

这篇文章本身因为微信环境验证没抓到正文,所以具体实验细节没法展开。

推荐理由:文章基于 OpenHands 在 500 个 swe-bench-verified 任务上的轨迹数据,给出 154:1 的输入输出比和 0.32 的 Kendall tau,指出 token 消耗相差千倍时效果未必更好。

AI HOT 精选

工具调用代理的认知与行动脱节机制研究

这篇可解释性论文专门研究了让模型调用工具的代理,发现一个挺要命的问题:模型经常心里知道该调工具了,但手上就是没动作。这种“知道却做不到”的比例在 26% 到 54% 之间,而且毛病全出在从认知到行动的过渡阶段,不是模型没看懂。内部探测显示,模型在后期层处理最后一个 token 时,会把信号转歪,转出来的方向几乎和要执行的动作正交,导致行动失败。

推荐理由:研究工具调用代理的可解释性论文发现,模型识别出该调工具却未执行的比例在 26% 到 54% 之间,问题出在认知到行动的过渡阶段,内部信号在后期层被转成了与动作近乎正交的方向。

5月16日星期六

机器之心 · 公众号

机器人为什么需要世界模型?顶尖机构联合发布综述

这篇综述正文被微信的验证页面挡住了,我没法看到具体内容。从标题和已知信息看,NTU MARS Lab 联合几家机构发了一篇 43 页的综述,讲的是机器人世界模型。世界模型可以理解成让机器人脑子里有个对物理世界的模拟器,能预判“我动一下会发生什么”,而不是每次都靠真实试错。

推荐理由:NTU MARS Lab 联合多家机构发布 43 页机器人世界模型综述,梳理世界模型如何让机器人在行动前预判物理结果,为理解具身智能的仿真训练路径提供背景。

AI HOT 精选

三个研究员用 Anthropic 的 Mythos 工具,六天写出一个 macOS 内核漏洞,绕过了苹果 M5 芯片的内存完整性保护

苹果在 M5 和 A19 芯片上花五年做的 MIE 内存完整性保护,被三个研究员用 Anthropic 的 Mythos 工具攻破了。他们 4 月 25 日发现漏洞,5 月 1 日就写完利用程序,全程只用了六天。攻击手法是纯数据攻击,不碰指针,靠普通用户权限的标准系统调用就能拿到 root 权限。团队已经当面把报告交给了苹果。

推荐理由:三名研究员借助 Anthropic 的 Mythos 工具,六天内完成绕过苹果 M5 芯片 MIE 保护的内核漏洞利用,仅凭普通用户权限的系统调用即可取得 root,这条呈现了 AI 辅助漏洞开发的真实速度。

量子位 · 公众号

浙大和微软用3000条纯文本提示词,让视频生成模型学会理解3D空间

浙大和微软搞了个叫 World-R1 的方法,拿 Wan 2.1 模型做实验,只用了大概 3000 条纯文本提示词,没加任何 3D 标注数据,就让模型生成的视频在空间一致性上好了不少。他们设计了一套叫 Flow-GRPO 的训练流程,外加四个维度的奖励信号来引导模型。

推荐理由:浙大和微软提出 World-R1,仅用约 3000 条纯文本提示词、不加 3D 标注,就让 Wan 2.1 生成的视频在空间一致性上明显改善,为缺少标注数据的视频生成团队提供了一条低成本对齐路径。