跳到正文

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

最新精选

第 481–500 条 · 共 696 条

5月19日星期二

AI 群聊日报

AI21裁员六成停卖模型,GPT-5.4被假共识带偏后准确率从100%暴跌到23%

AI21 Labs裁员60%并停止独立销售模型,文章判断纯卖模型访问权限这条路已经走不通了——token价格两年跌了100倍,过去16个月里有六家独立模型公司以几乎相同的方式被大厂吸收。Meta内部文件也曝出要裁10%约8000人,同时强征7000人转AI岗。

推荐理由:AI21 Labs裁员六成并停止独立销售模型,文章把它与token价格两年跌100倍、六家独立模型公司被大厂吸收放在一起,说明纯卖模型访问权限这条路正在收缩。

量子位 · 公众号

京东和中科院信工所连发三篇论文,提出让大模型“自己教自己”的强化学习路线

这篇推文本身因为环境异常没加载出正文,我只能根据标题和外部信息给你还原一下。京东和中科院信工所联合发了三篇论文,核心思路叫 Self-Taught RLVR,也就是让模型在强化学习里自己生成训练信号、自己教自己,省掉人工标注或外部奖励模型。

推荐理由:京东与中科院信工所联合发布三篇论文,提出 Self-Taught RLVR 路线,让模型在强化学习中自行生成训练信号,省去人工标注与外部奖励模型。

5月18日星期一

AI HOT 精选

IBM 在 Hugging Face 上线开放智能体排行榜,直接对比整套系统谁更省钱能干

IBM Research 做了一个开放排行榜,不只看模型本身,而是把智能体整套系统(模型、工具、规划、记忆、纠错)拉出来比。它用六个不同场景的基准测试来打分,同时公布质量和运行成本,让你知道哪个方案真值得部署。正文没披露具体模型分数、数据集大小和评测日期。

推荐理由:IBM Research 在 Hugging Face 上线开放智能体排行榜,把模型、工具、规划、记忆、纠错整套系统放进六个场景基准里比,并同时公布质量与运行成本。

量子位 · 公众号

Agent 学会自己从失败里长技能了:EvolveR 被 ICML 2026 接收

这篇讲的是让 AI 智能体在干活时,把成功和失败的经验都存下来,变成一个可复用的技能库。方法叫 EvolveR,核心是给经验打分、建库,再用 GRPO 训练智能体学会什么时候该去库里检索经验。论文在七个复杂问答基准上测了 Qwen2.5-3B 和 7B,说平均性能是目前最好的。

推荐理由:EvolveR 把智能体成功与失败的经验打分建库,并用 GRPO 训练其判断何时检索,在七个复杂问答基准上测试了 Qwen2.5-3B 和 7B。

机器之心 · 公众号

华为 GTS 在 ICML 2026 发了一篇用推理熵值动态挑训练样本的方法,Amazon 和 Google 的作者也跟进了类似思路

这篇论文提出了一种叫 EDCO 的动态课程微调方法,核心是用模型推理时的“熵值”来判断样本难度,自动挑出当前模型最该学的数据,而不是靠人手动分阶段。他们搞了个前缀熵值估算,把每一条样本的评分时间从 2.24 秒压到了 0.37 秒,省了不少算力。

推荐理由:华为GTS提出EDCO动态课程微调方法,用推理熵值判断样本难度自动挑选训练数据,其前缀熵值估算把单样本评分时间从2.24秒降到0.37秒。

r/LocalLLaMA

TIME:让 Qwen 模型只在需要时短思考,而不是一直过度推理

作者用 QLoRA 在 Qwen3 的 4B 到 32B 全系列上训练了一个叫 TIME 的方法,核心思路是当上下文发生变化时,模型才触发一段简短的中途推理,避免没完没了地“想太多”。帖子说数据集、notebook、训练脚本、课程学习方案和 TIMEBench 评测都公开了,24GB 显存就能训到 14B 规模。

推荐理由:作者用 QLoRA 在 Qwen3 的 4B 到 32B 全系列上训练 TIME,让模型只在上下文变化时触发简短中途推理,数据集、训练脚本和 TIMEBench 评测均已公开。

5月17日星期日

r/LocalLLaMA

MiroThinker-1.7 开源版深度研究 agent 发布,基于 Qwen3 MoE,mini 版总参数量 30B 但推理时只激活 3B

MiroMindAI 把他们的深度研究 agent MiroThinker-1.7 放出来了,权重直接挂在 HuggingFace 上。mini 版挺有意思:总参数量 30B,但用了 MoE(混合专家)架构,实际干活时只激活 3B 参数,所以对本地消费级硬件比较友好。

推荐理由:MiroMindAI 将深度研究 agent MiroThinker-1.7 的权重开源到 HuggingFace,mini 版以 30B 总参数、推理时仅激活 3B 的 MoE 配置降低本地运行门槛。

AI HOT 精选

微软AI CEO放话:18个月内AI能接手所有白领工作

微软AI负责人Mustafa Suleyman在《财富》采访里给了一个很激进的时间表——18个月内AI会达到人类水平,把会计、法律、营销、项目管理这些坐在电脑前干的活全自动化。他的原话是“所有白领工作都会被完全取代”。Suleyman还说自己的目标是搞出“超级智能”,以后建一个新AI模型会像录播客或写博客一样简单。

推荐理由:微软AI负责人Mustafa Suleyman在采访中给出18个月内AI达到人类水平并自动化会计、法律、营销等白领工作的时间表,可作为观察科技公司高层对AI替代节奏判断的一个参照。

r/LocalLLaMA

有人实测 DeepSeek V4 的百万上下文窗口,发现写代码的最佳区间是 15 万到 25 万 token

一位 Reddit 用户拿 DeepSeek V4 去啃 4.5 万、18 万和 52 万 token 的代码库,结论是 15 万到 25 万 token 时写代码最顺手。超过 30 万 token 后,模型对具体行号的定位开始不准;到 52 万 token 时,输出明显偏向架构总结,具体实现细节会跳过。

推荐理由:一位 Reddit 用户用 4.5 万、18 万和 52 万 token 的代码库实测 DeepSeek V4,发现 15 万到 25 万 token 区间写代码最顺手,超过 30 万后行号定位开始失准。

r/LocalLLaMA

同批模型在 Strix Halo、RTX 3090 和 RTX 5070 上的实测对比

一位用户自己跑了 55 组本地推理测试,覆盖 Strix Halo、RTX 3090 和 RTX 5070 三块卡、五种推理后端,模型从 0.35B 小不点到 35B-A3B 混合专家都有。结论很直接:能塞进 12GB 显存的模型,RTX 5070 比 RTX 3090 快。

推荐理由:一位用户自跑 55 组本地推理测试,覆盖三块显卡与五种后端,给出 12GB 显存内 RTX 5070 解码快于 RTX 3090 的实测对比。

Dwarkesh Patel 播客

别把“聪明”和“权力”混为一谈

Dwarkesh Patel 在这篇博客里聊了一个挺常见的误解:我们总把 AI 的智力等同于它能掌握的权力。他上来就举了个例子,如果按“在多种领域达成目标的能力”来定义智力,那斯大林可能是史上最聪明的人,但这显然不是我们讨论超级 AI 时脑子里想的那个东西。

推荐理由:Dwarkesh Patel 在博客中拆解智能与权力的常见混淆,以斯大林为例说明按多领域达成目标定义智力会得出反直觉结论,这一区分是理解超级 AI 讨论的前提。

AI HOT 精选

RLVR 在科学领域可能格外不灵光

Dwarkesh Patel 聊了一个很要命的问题:用 RLVR(靠可验证奖励信号做强化学习)去搞科学发现,可能比我们想的难得多。文章没给实验数据,纯靠科学史案例来推演。核心矛盾是,科学理论的验证周期动不动就是几十年甚至上百年,而且当时看起来更准的模型,未必是更对的理论。

推荐理由:Dwarkesh Patel 提出,用可验证奖励信号做强化学习的思路在科学发现上可能格外难成立,因为科学理论的验证周期常达几十年甚至上百年,当时更准的模型未必更对。

AI HOT 精选

Eric Jang 从零复现 AlphaGo:2026 年训练强围棋 AI 只要几千美元算力

Eric Jang 花了几个月从零实现 AlphaGo,并把过程写成教程和代码放了出来。他原本的理解是“用自我对弈训练的搜索增强神经网络”,但亲手做一遍后对细节有了更深体会。他给出一条关键判断:前沿研究仍然很贵,但特定能力的落地成本掉得很快——到 2026 年,训练一个能打的围棋 AI 租算力只要几千美元,不再需要 DeepMind 级别的资源。

推荐理由:Eric Jang 把从零实现 AlphaGo 的完整过程写成教程和代码公开,并给出一个具体成本判断,2026 年租算力训练能打的围棋 AI 只需几千美元。

AI HOT 精选

AntLingAGI 开源万亿级推理模型 Ring-2.6-1T,专为智能体工作流设计,5 月底前在 OpenRouter 打二五折

AntLingAGI 把 Ring-2.6-1T 开源了,同时上线了 OpenRouter 平台。这个模型参数量达到万亿级别,不是单纯回答问题,而是冲着让模型进业务流程干活去的:规划步骤、调用工具、维持长上下文、跑完复杂任务。训练用了 Async RL 和 IcePop 两种方法,正文没展开解释具体怎么做的。

推荐理由:AntLingAGI 开源万亿参数模型 Ring-2.6-1T 并上线 OpenRouter,面向规划步骤、调用工具、维持长上下文的智能体工作流,5 月底前在该平台打二五折。

5月16日星期六

量子位 · 公众号

阿里健康给医生做了个新工具“青灵子”,把 BMJ 顶刊十年全文和循证流程塞了进去

阿里健康发布了一款叫“青灵子”的医疗 AI,目标用户是中国 500 万医生。它直接拿了 BMJ 集团旗下 70 本期刊过去十年的全文内容做知识底子,不是只搜摘要。回答问题时,模型会按 PICO 框架(把临床问题拆成患者、干预、对照、结局)和 GRADE 证据分级来走流程,相当于先框定问题结构再给答案,而不是自由发挥。

推荐理由:阿里健康推出面向医生的医疗 AI 青灵子,以 BMJ 旗下 70 本期刊近十年全文为知识底座,并按 PICO 框架和 GRADE 分级组织回答,为关注医疗 AI 证据来源的人提供参考。

r/LocalLLaMA

Orthrus-Qwen3-8B:冻住 Qwen3-8B 主干,加一个扩散注意力头,一次前向最多吐出 7.8 倍的 token,输出分布数学上可证明不变

这个工作把 Qwen3-8B 的原始参数完全冻住,只额外训练一个扩散注意力头,让模型一次前向能生成多个 token,最高做到 7.8 倍。在 MATH-500 上实测 wall-clock 速度大约快了 6 倍。训练只动了 16% 的参数,用了不到 10 亿 token 的数据,在 8 张 H200 上跑了 24 小时。

推荐理由:研究团队冻结 Qwen3-8B 主干,仅训练一个扩散注意力头,在 MATH-500 上把单次前向的 token 吞吐提到最高 7.8 倍,墙钟时间约快 6 倍,输出分布保持不变。

AI HOT 精选

杨立昆播客访谈:LLM 走不远,他离开 Meta 去赌世界模型

杨立昆在 Unsupervised Learning 播客里把大语言模型的底牌翻了个遍。他直接说 LLM 这条路有天花板,劝博士生别再往里扎。他预测到 2027 年,纯靠堆语言数据做不出真正的智能。他离开 Meta 后创立的 AMI 公司,核心押注在“世界模型”上——让 AI 像人一样通过观察和互动去理解物理世界,而不是只读文本。

推荐理由:杨立昆在播客中判断大语言模型路线存在天花板,并说明离开 Meta 后押注世界模型,为理解 AI 路线分歧提供了关键人物的直接表述。

AI HOT 精选

Eric Jang:从零手搓 AlphaGo,聊聊搜索、自对弈和 AI 研究的自动化

Eric Jang 在播客里拆解了他休假期间的项目——用现代工具从零复现 AlphaGo。他解释了 AlphaGo 为什么至今仍是理解智能系统的好范本:它把蒙特卡洛树搜索、从经验里学习和自我对弈这三件事结合得很干净。节目里聊到,这种搜索加自对弈的强化学习方式,能直接给每一步棋一个更优解,绕开了现在训大语言模型时常遇到的“功劳归谁”难题。

推荐理由:Eric Jang 在播客里拆解自己用现代工具从零复现 AlphaGo 的项目,讲清蒙特卡洛树搜索、经验学习与自我对弈如何结合,为理解搜索加自对弈的强化学习路径提供一份具体参照。

5月15日星期五

量子位 · 公众号

160行代码就能跑通LeCun的JEPA世界模型

一个叫keon/jepa的开源教学库把LeCun提出的JEPA世界模型拆成了5个独立变体,每个都用单个PyTorch文件实现,最短160行,最长278行,只依赖PyTorch和torchvision。其中iJEPA在CIFAR-10上跑了100轮,线性探测准确率52.7%,不算高,但胜在代码够短、能跑通。

推荐理由:开源教学库keon/jepa把LeCun的JEPA世界模型拆成5个单文件PyTorch实现,最短160行,其中iJEPA在CIFAR-10上跑完100轮线性探测准确率52.7%。

新智元 · 公众号

Anthropic 用 NLA 把 Claude 脑子里的想法翻译成人话,解释力最高到 80%

Anthropic 发了个叫 NLA(自然语言自编码器)的新研究,能把 Claude 模型内部的激活向量直接转成自然语言。在 Opus 4.6 上,NLA 对激活模式的解释方差能到 60% 到 80%,也就是能说清楚模型当时在想什么的比例。

推荐理由:Anthropic 发布 NLA 研究,把 Claude 内部激活向量直接转成自然语言,在 Opus 4.6 上对激活模式的解释方差达 60% 到 80%,为理解模型内部状态提供了一种可量化的路径。