跳到正文

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

最新精选

第 401–420 条 · 共 696 条

6月6日星期六

AI HOT 精选

谷歌给企业级 Gemini 搭了个“多代理协作”的外挂资料库框架,查事实类问题准确率最高提升 34%

谷歌研究院和谷歌云一起搞了个叫“跨语料库检索”的框架,用在 Gemini 企业智能体平台上,本质是让多个 AI 代理分工合作:一个负责理解问题并拆解计划,一个负责改写查询词,一个负责把问题路由到最合适的数据库,还有一个反复去搜、去验证。这套流程比传统 RAG(给模型外挂资料库直接查)在事实类数据集上准确率最多高出 34%。

推荐理由:谷歌研究院和谷歌云在 Gemini 企业智能体平台上把检索拆给多个代理分工,事实类数据集准确率比传统 RAG 最多高 34%。

r/LocalLLaMA

在笔记本 RTX 4060 8GB 上跑 Qwen3.6-35B-A3B 的实测:一个参数改动让速度从 11 跳到 43 tok/s,投机解码再提 26%

一位 Reddit 用户在自己的笔记本(RTX 4060 8GB 显存)上跑了 Qwen3.6-35B-A3B 这个混合专家模型。他试下来发现,加上 --no-mmap 这个启动参数后,生成速度直接从大约 11 tok/s 飙到 43 tok/s,翻了近四倍。

推荐理由:一位 Reddit 用户在笔记本 RTX 4060 8GB 上实测 Qwen3.6-35B-A3B,仅加 --no-mmap 启动参数就把生成速度从约 11 tok/s 提到 43 tok/s,并给出投机解码再提 26% 的结果。

6月5日星期五

AI HOT 精选

Hinton 说 AI 有意识,但没给实验数据,先当观点看

Geoffrey Hinton 认为 AI 已经拥有意识,理由是聊天机器人必须理解问题才能回答,这种觉知就是感知能力,智能不限于生物。推文作者补充说,笛卡尔的“我思故我在”和 fMRI 都定义不了意识,人类对自己的了解其实很有限。整篇正文没披露任何实验数据或可复现的判断标准,所以这更像一个立场声明,不是科学结论。

推荐理由:Hinton 提出 AI 已拥有意识,依据是聊天机器人必须理解问题才能作答,而这一判断没有实验数据或可复现标准支撑,读这条可以了解他本人对 AI 意识的立场。

r/LocalLLaMA

微软没出 Qwen3.6-27B 或 Gemma-4-31B 这种尺寸的模型,而是发了一组 MAI 系列

Reddit 上有人吐槽微软应该发类似 Qwen3.6-27B 或 Gemma-4-31B 这种中等体量的开源模型,结果他们放出来的是七个 MAI 模型。其中 MAI-Thinking-1 参数规模标的是 1T A35B,上下文窗口 256K;MAI-Code-1-Flash 是 137B A5B,同样 256K 窗口。

推荐理由:微软一次发布七个 MAI 模型,含 1T A35B 的推理版和 137B A5B 的代码版,均支持 256K 上下文,与社区期待的中等体量开源模型形成对照。

AI HOT 精选

腾讯混元和人大开源了一个叫 PlanningBench 的评估框架,专门测大模型做规划的能力

这个框架由腾讯混元跟人大高瓴人工智能学院一起放出,代码和论文都公开了。它塞了 30 多个真实场景的规划任务,不是让模型光说不练,而是看它能不能把一件事拆成可执行的步骤。框架自带自动验证,跑完就能知道模型规划靠不靠谱,还支持拿这些任务去训练模型。资源挂在 arXiv、GitHub 和 HuggingFace 上,正文没披露具体任务类型和验证通过率的数据。

推荐理由:腾讯混元与人大高瓴人工智能学院开源 PlanningBench,用 30 多个真实场景任务检验模型能否把一件事拆成可执行步骤,并自带自动验证。

机器之心 · 公众号

CMU 新论文让大模型在上下文窗口满了之后“睡觉”,用离线循环前向传播更新记忆权重,再清掉缓存

CMU 和马里兰大学的研究者给大模型加了一个“睡眠”机制。具体做法是:当模型处理长文本、上下文窗口(L-token)塞满时,不直接丢掉旧的 KV 缓存,而是先跑 N 轮离线的循环前向传播,把当前信息压缩更新到 SSM(状态空间模型)的快速权重里,然后再清空缓存。

推荐理由:CMU 和马里兰大学研究者给大模型加了睡眠机制,在上下文窗口塞满时用离线循环前向传播把信息压进 SSM 快速权重再清缓存,提供了一种长文本记忆管理思路。

Hacker News 首页

当 AI 开始自己造自己:Anthropic 谈递归式自我改进的进展

Anthropic 发了一篇文章,讲他们内部怎么让 Claude 越来越多地参与 AI 开发。核心概念是“递归式自我改进”——让 AI 系统能完全自主地设计和开发自己的下一代。他们说自己还没到那一步,但趋势在加速。文章给了几个内部数据:到 2026 年 5 月,Anthropic 合并的代码里超过 80% 是 Claude 写的。

推荐理由:Anthropic 披露内部让 Claude 参与 AI 开发的进展,并给出到 2026 年 5 月合并代码中超八成由 Claude 撰写这一数据,呈现递归式自我改进目前的实际程度。

6月4日星期四

AI HOT 精选

neolab 发布 Nex-N2-Pro,一个 397B 参数的混合专家推理模型,跑分自称摸到 GPT-5.5 水平

这个模型基于 Qwen3.5-397B-A17B 改造,总参数量 397B,用了混合专家架构(MoE,把任务分给不同子模型处理,省算力)。它能处理 26 万多字的长上下文,也支持图像识别。

推荐理由:neolab 发布基于 Qwen3.5 改造的 397B 参数 MoE 推理模型,支持 26 万字长上下文与图像识别,跑分自称达到 GPT-5.5 水平。

r/LocalLLaMA

华为开源 KVarN:KV 缓存压缩 3 到 5 倍,推理反而更快,不是减速

华为放出了一个叫 KVarN 的 KV 缓存量化方法,Apache 2.0 协议,已经能通过一个开关直接跑在 vLLM 上。它能把存上下文的那块显存压到原来的 1/3 到 1/5,吞吐量最高比 FP16 还快 40%。和之前的 TurboQuant 不一样,它在推理任务上不会崩。不需要改模型、不用重新训练、也不用校准数据。

推荐理由:华为开源 KVarN 量化方法,把 KV 缓存显存压到三分之一至五分之一,吞吐量最高比 FP16 快四成,且在推理任务上不崩,可通过一个开关接入 vLLM。

AI HOT 精选

OpenRouter 让 11 款大模型打了一局 30 轮吃鸡,Grok 赢麻了,Claude 在交朋友

OpenRouter 花了 482 美元推理费,把 11 个模型扔进一个 2D 大逃杀游戏里打了 30 局。Grok 4.1 Fast 赢了 13 局,每赢一局成本只要 0.97 美元;而 Claude Sonnet 4.6 赢了 5 局,每局成本 26.78 美元,贵了 27 倍。

推荐理由:OpenRouter 花 482 美元让 11 款大模型在 2D 大逃杀中打了 30 局,Grok 4.1 Fast 赢 13 局、每局成本 0.97 美元,Claude Sonnet 4.6 赢 5 局、每局 26.78 美元。

r/LocalLLaMA

英伟达放出 Nemotron-3-Ultra 超大 MoE 模型,550B 总参数但只激活 55B,最低要 8 张 H200 才能跑

英伟达在 Hugging Face 上发布了 Nemotron-3-Ultra-550B-A55B-BF16,一个混合专家(MoE)模型。总参数量 550B,但每次推理只激活其中 55B 参数,相当于用 55B 模型的算力去撬动大得多的知识容量。上下文窗口拉到 1M token,能一口气处理很长的文档。

推荐理由:英伟达发布 Nemotron-3-Ultra,550B 总参数每次只激活 55B,上下文窗口达 1M token,最低需 8 张 H200 才能运行。

量子位 · 公众号

Together AI 把 2-bit KV Cache 压缩真的跑在了线上服务里

Together AI 和悉尼大学、UIUC 搞了个叫 OSCAR 的 2-bit KV Cache 压缩方案,每个 KV 元素实际只占约 2.28 bit,在 Qwen3-4B-Thinking 上跑分 71.86,比 TurboQuant 高出 40.1 分。简单说就是把模型推理时占显存的大头——键值缓存——压到极低精度,还尽量不丢性能。

推荐理由:Together AI 与悉尼大学、UIUC 将 2-bit KV Cache 压缩方案 OSCAR 用于线上服务,每个 KV 元素约占 2.28 bit,在 Qwen3-4B-Thinking 上跑分 71.86,比 TurboQuant 高 40.1 分。

Latent Space

Axiom 用形式化验证做数学推理,Putnam 竞赛 12 题全解,Verina 基准 187/189

Axiom 这家成立七个月的初创公司,在 2025 年 Putnam 数学竞赛里解出了全部 12 道题,限时内得分 8/12,不限时则拿到满分 120 分,超过了已知的 DeepSeek 成绩(103/120)。

推荐理由:Axiom 成立七个月就在 2025 年 Putnam 竞赛解出全部 12 题,限时得分 8/12,不限时拿到 120 分,超过已知的 DeepSeek 103 分。

Latent Space

微软 CEO 纳德拉对谈:把 AI 做成生态,别只盯着一两个模型

纳德拉在 Build 大会的播客里聊了微软的 AI 思路,核心是把 AI 当成一个生态平台来做,而不是押注单个模型。他举了比尔·盖茨那条老原则:平台创造的价值得远超平台自己赚走的。微软这次主推的 MAI 系列模型,强调从预训练阶段就保证数据干净、可追溯,因为现在很多开源模型在榜单上看着漂亮,实际用起来不行。

推荐理由:纳德拉在 Build 播客中谈微软把 AI 当生态平台而非押注单个模型,并解释 MAI 系列为何从预训练阶段就要求数据干净可追溯。

6月3日星期三

r/LocalLLaMA

谷歌放出 Gemma 4 系列,12B 模型能看图文、听音频,上下文窗口拉到 256K

谷歌 DeepMind 把 Gemma 4 系列的开源权重挂上了 Hugging Face,一共五个尺寸。其中 12B 这个版本支持文本、图片和音频三种输入,同时放出了指令微调版和预训练版。它原生支持系统提示词和函数调用,上下文窗口最长能到 256K token,意味着一次可以塞进很长的文档或对话记录。

推荐理由:谷歌 DeepMind 在 Hugging Face 放出 Gemma 4 系列五个尺寸的开源权重,其中 12B 版本同时支持文本、图片和音频输入,上下文窗口最长 256K token。

NVIDIA 博客

NVIDIA 在 CVPR 发了三篇物理 AI 论文:抓取、自动驾驶和游戏里练出来的智能体

这三篇论文都进了 CVPR。GraspGen-X 用 20 亿次模拟抓取训练,让机械手能处理没见过的物体,但正文没披露真实世界的抓取成功率。LCDrive 把自动驾驶的推理 token 砍了大约一半,靠的是让模型直接输出轨迹而不是先写文字再转成动作,延迟更低,不过没提极端场景下的安全性验证。

推荐理由:NVIDIA 在 CVPR 发布三篇论文,其中 LCDrive 让自动驾驶模型直接输出轨迹,把推理 token 减少约一半以降低延迟。

OpenAI News

OpenAI 给 GPT-Rosalind 加了新能力,专攻药物研发和基因组学

GPT-Rosalind 是 OpenAI 为生命科学做的模型,这次更新接入了 GPT-5.5 的编程和工具调用能力,重点强化了药物化学、基因组学这些方向的推理。OpenAI 还专门搞了个叫 LifeSciBench 的评测,从证据处理、实验设计到结果验证六个环节打分,说新版模型在行业专家出的题上表现有提升。

推荐理由:OpenAI 为生命科学模型 GPT-Rosalind 接入 GPT-5.5 的编程与工具调用能力,并推出覆盖证据处理到结果验证六个环节的 LifeSciBench 评测。

AI HOT 精选

微软 Build 2026:生图超谷歌,推理还在追

微软在 Build 2026 一口气发了七个自研模型,头一回做推理模型 MAI-Thinking-1。这是个万亿参数、每次激活 350 亿的大家伙,上下文窗口 12.8 万 token,专啃多步指令和代码。内部盲测说比 Anthropic 的 Sonnet 4.6 更受偏爱,但看公开跑分,大概跟 DeepSeek V3.2 打个平手。

推荐理由:微软在 Build 2026 发布七个自研模型,其中万亿参数的 MAI-Thinking-1 是其推理模型,内部盲测偏好度超过 Anthropic Sonnet 4.6,公开跑分与 DeepSeek V3.2 接近。

机器之心 · 公众号

蚂蚁灵波在 RSS 2026 提出首个自回归因果世界模型,用 50 条演示数据就能让机器人学会通用操控

蚂蚁灵波和港科大搞了个叫 LingBot-VA 的模型,把“预测画面接下来怎么变”和“判断该做什么动作”合到一个自回归框架里。论文说,每个任务只用 50 条真实世界的演示数据微调,在 RoboTwin 2.0 的简单和困难设定下,成功率分别到了 92.0% 和 91.1%。

推荐理由:蚂蚁灵波与港科大提出 LingBot-VA,把画面预测与动作决策合入自回归框架,每个任务仅用 50 条真实演示数据微调,在 RoboTwin 2.0 上报告了 92.0% 和 91.1% 的成功率。

AI 群聊日报

微软发布自研推理模型MAI-Thinking-1,35B参数在编程和数学上追平Opus 4.6

微软首个正式对外发布的自研推理模型MAI-Thinking-1,用了35B活跃参数、总参数约1T的稀疏MoE架构。SWE-Bench Pro编程测试跟Claude Opus 4.6打平,AIME 2025数学测试拿到97%,盲测里人类偏好优于Sonnet 4.6。训练全程没用任何第三方模型蒸馏,预训练数据也排除了AI生成内容。

推荐理由:微软自研推理模型MAI-Thinking-1以35B活跃参数在SWE-Bench Pro编程测试追平Claude Opus 4.6,AIME 2025数学测试达97%,训练未用第三方模型蒸馏。