跳到正文

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

最新精选

第 301–320 条 · 共 696 条

7月17日星期五

Hacker News 首页

Mozilla 发布首份开源 AI 报告:开放权重模型已吃掉大部分 token 流量,但落地工具链还是跟不上

Mozilla 的第一份《开源 AI 现状》报告给出了几个硬数字。开放权重模型现在占了 OpenRouter 上大部分 token 流量,排第一的是 DeepSeek V4 Flash。GPT-4 级别的推理成本在 36 个月内跌了 50 倍,现在每百万 token 只要 0.4 美元。能力差距还有 3.3%,主要卡在推理和多模态上,编程能力已经打平。

推荐理由:Mozilla 首份开源 AI 报告给出开放权重模型在 OpenRouter 的 token 流量占比、推理成本 36 个月降 50 倍以及 3.3% 能力差距等数字,勾勒出开源模型当前的位置。

Hacker News 首页

月之暗面发布 2.8 万亿参数 Kimi K3,自称首个开源 3T 级模型,API 定价看齐 Claude Sonnet

月之暗面推出了 Kimi K3,一个 2.8 万亿参数的模型,他们把它四舍五入叫成“首个开源 3T 级模型”。这个模型 API 定价是输入每百万 token 3 美元、输出 15 美元,跟 Anthropic 的 Claude Sonnet 系列一个价,是目前中国 AI 实验室里最贵的模型。

推荐理由:月之暗面发布 2.8 万亿参数的 Kimi K3,API 定价输入每百万 token 3 美元、输出 15 美元,与 Claude Sonnet 系列持平,是目前中国 AI 实验室中定价最高的模型。

AI 群聊日报

Kimi K3 登顶前端编程榜,权重将开源,但实测发现它有时会烧光额度原地打转

Kimi K3 在 Frontend Code Arena 拿了 1679 分,压过 Claude Fable 5,七个前端领域赢了六个。模型有 2.8 万亿参数,支持 1M 上下文,定价是每百万 token 3 到 15 美元,完整权重会在 7 月 27 日前放出来。群友上手后评价两极:有人花 199 元月费让它重做了之前搞砸的粒子特效,效果惊艳。

推荐理由:Kimi K3 在 Frontend Code Arena 以 1679 分超过 Claude Fable 5,七个前端领域赢下六个,2.8 万亿参数、1M 上下文与 3 到 15 美元定价一并公开,权重将在 7 月 27 日前放出。

AI HOT 精选

OpenAI 给 CFO 们画了张新账本:别盯着每个 token 多少钱,要看“每块钱干成了多少活”

OpenAI 发了一篇面向 CFO 的指南,核心就一句话:算 AI 账不能只看 token 单价,得算完成一件合格任务的综合成本。文章提了个“有用智能每美元”的框架,拆成四个问题:AI 到底干成了多少有用的活、每件成功的活实际花了多少钱、结果靠不靠谱、以及用得越多是不是每块钱买的活也越多。

推荐理由:OpenAI 面向 CFO 发布指南,提出有用智能每美元框架,把 AI 成本从 token 单价转向完成合格任务的综合成本,并拆成四个具体问题。

彭博科技

月之暗面发布新 Kimi 模型,跑分追上 OpenAI o3 和 Claude Sonnet 4.5,英伟达盘前跌超 3%

月之暗面在 7 月 17 日推出了新一代 Kimi 模型,在 MATH、HumanEval 等基准测试里,成绩跟 OpenAI o3 和 Anthropic Claude Sonnet 4.5 打平甚至略高。现在通过 Kimi 聊天机器人就能试,API 也已经上线。市场反应很直接——英伟达盘前跌了超过 3%,大家担心这会压降美国 AI 公司的定价空间。

推荐理由:月之暗面发布新一代 Kimi 模型,在 MATH、HumanEval 等基准上追平 OpenAI o3 和 Claude Sonnet 4.5,聊天机器人与 API 已同步开放,英伟达盘前跌超 3%。

Hacker News 首页

Ring-Zero:把不用人工标注的强化学习推到万亿参数,让模型自己长出推理能力

这篇论文把 Zero RL(一种不用人类标注、靠可验证奖励来训练模型推理的方法)直接干到了 1 万亿参数。团队发现,如果只是简单放大模型,推理过程会变得啰嗦、冗余,读起来费劲。所以他们加了几个稳定训练的手段:截断式重要性采样、训练与推理的比例修正,以及混合精度控制。实验得出三个结论:第一,万亿参数让模型学得更快、上限更高。

推荐理由:论文把无需人工标注的 Zero RL 训练规模推到 1 万亿参数,并给出截断式重要性采样等稳定训练手段,用于应对放大后推理过程冗长冗余的问题。

7月16日星期四

Hacker News 首页

Schema 这套外挂让前沿模型在 ARC-AGI-3 公开集上跑到了约 99% 的得分

Impossible Research 发了个叫 Schema 的调度框架,没动模型本身,而是让 Claude Opus 4.8 和 GPT-5.6 Sol 像物理学家一样干活:先把游戏画面转成可执行的状态程序,再找出游戏机制,并把两者塞进同一个可编辑的程序里。这样预测翻车时,模型能回头改自己对“状态是什么”的定义,而不是只修规则。

推荐理由:Impossible Research 的 Schema 框架不改模型,让模型把游戏画面转成可执行状态程序并定位机制,预测出错时回头修正状态定义,公开集成绩展示了调度层设计的可迁移思路。

Latent Space

Lila Sciences 想把实验室变成数据中心,让 AI 24 小时不停做实验

Lila Sciences 的 CTO Andy Beam 和 CSO Rafa Gómez-Bombarelli 觉得互联网数据快被挖光了,科学方法才是最后一块互联网规模的数据来源。他们把实验室当成一个无限生成数据的机器:用强化学习提假设,让自然界来验证。目前他们已经产出了超过 10 万亿个经过实验验证的科学推理数据点。

推荐理由:Lila Sciences 把自动化实验室当作持续产出科学数据的数据中心,用强化学习提假设、物理实验做验证,已积累超 10 万亿个验证数据点,为 AI 数据来源提供了一条新路径。

Latent Space

Thinky 发布 Inkling:9750 亿参数、410 亿活跃的多模态开源模型,目前美国最强 Apache 2.0 基座

Thinky 推出了 Inkling,一个总参数量 9750 亿、每次推理激活 410 亿参数的混合专家模型。它能直接处理文字、图片、音频和视频,支持最长 100 万 token 的上下文窗口。模型用 45 万亿个多模态 token 训练,采用 Apache 2.0 协议开源,发布当天就得到了 vLLM、Hugging Face 等工具链的支持。

推荐理由:Thinky 发布总参数 9750 亿、激活 410 亿的 Inkling,以 Apache 2.0 开源并原生处理文字、图片、音频和视频,支持 100 万 token 上下文。

Hugging Face 博客

模型路由很简单,直到你开始算真实成本

IBM 的人拿 417 个 AppWorld 任务跑了一遍,发现按标价选模型会翻车。Claude Sonnet 4.6 总花费 79 美元,GPT-4.1 却花了 155 美元,贵了快一倍。原因是 agent 干活时会反复用同一大段上下文,Sonnet 的缓存读取价更低,靠这个把总账拉回来了。

推荐理由:IBM 用 417 个 AppWorld 任务实测发现,按标价选模型会误判成本,GPT-4.1 总花费 155 美元,Claude Sonnet 4.6 只需 79 美元,差距来自 agent 反复读取长上下文时的缓存定价。

7月15日星期三

Computing Life · Share · 鸭哥调研

AI 训练 AI:一次公开实验把自我改进的闭环走到了哪一步

Dan Austin 开源了一个完整的 AI 训练 AI 实验。外层用 Qwen3.6 智能体设计后训练方案,内层用 Qwen3-0.6B 或 1.7B 模型在 GPU 上真跑训练,隐藏评分再作为奖励反馈给外层。54 步下来,智能体先学会少交无效作业,然后把 1.7B 模型的使用比例从 42% 拉到了 95%,并开始主动调整温度、优化器等超参数。

推荐理由:Dan Austin 开源了一套 AI 训练 AI 的完整实验流程,外层智能体设计后训练方案,内层小模型在 GPU 上真跑训练,54 步里把 1.7B 模型使用比例从 42% 拉到 95%。

Hacker News 首页

PrismML 发布 Bonsai 27B:第一个能在手机上跑的 270 亿参数模型

PrismML 把 Qwen3.6 27B 压缩到了 3.9 GB,塞进了 iPhone 17 Pro。他们做了两个版本:三元版(5.9 GB)保留了原版 95% 的能力,1-bit 版(3.9 GB)保留了 90%。数学和编程分数几乎没掉,工具调用也撑住了,但视觉任务退化比较明显。

推荐理由:PrismML 把 Qwen3.6 27B 压到 3.9 GB 装进 iPhone 17 Pro,三元版保留 95% 能力,1-bit 版保留 90%,数学与编程几乎不降,视觉任务退化明显。

7月14日星期二

MIT Technology Review · AI

Anthropic 在 Claude 内部发现了一个隐藏的“词空间”,但这能说明什么

Anthropic 用一种新的探测技术,在 Claude 模型里挖出了一个叫 J-space 的隐藏区域。里面全是模型输出里不会出现的词,但它们会影响模型的推理过程。

推荐理由:Anthropic 用新探测技术在 Claude 内部找到名为 J-space 的隐藏区域,其中不出现的词仍会影响模型推理,这条拆解了该发现能说明与不能说明的边界。

7月13日星期一

AI 群聊日报

GPT-5.6 Sol Pro 解密:Pro 不是新模型,只是个推理模式开关

群友抓包发现 OpenCode 里的 Sol Pro 并非独立模型,只是在调用 gpt-5.6-sol 时加了个 reasoning.mode: "pro" 的参数,跟 effort、service_tier 可以自由组合。开 Pro 后一句简单问候的输入 token 从 12 暴涨到 1527,贵了 100 多倍。

推荐理由:群友抓包发现 OpenCode 中的 Sol Pro 并非独立模型,只是调用 gpt-5.6-sol 时附加的推理模式参数,开启后一句问候的输入 token 从 12 涨到 1527。

AI HOT 精选

腾讯混元发布 Hy3:295B 总参数、21B 激活的 MoE 模型,定位做 Agent 的 LLM,已接入微信

Hy3 是一个 295B 总参数、每次推理只激活 21B 的混合专家模型,推理效率能对标参数规模是它 2 到 5 倍的旗舰模型。团队把它定位成“给 Agent 用的 LLM”,从预览版到正式版靠 50 多个真实业务场景的反馈来迭代:内部 WorkBuddy 的任务成功率从 72% 提到 90%,延迟降了 34%,幻觉和常识错误也在持续减少。

推荐理由:腾讯混元发布 Hy3,295B 总参数、每次推理激活 21B 的 MoE 模型,定位为给 Agent 用的 LLM,并已接入微信。内部 WorkBuddy 任务成功率从 72% 提升到 90%、延迟降低 34%。

7月12日星期日

Hacker News 首页

geohot 谈 AI 2040:智能不是一切,本地 AI 才是自由底线

George Hotz 用他在 comma.ai 做硬件的亲身经历反驳 AI 硬起飞论。现实里全是供应链掉链子、发错零件、芯片在回流焊里翘曲这种破事,造芯片光流片就要 3 个月,token 质量再高也变不出魔法。

推荐理由:George Hotz 以 comma.ai 的硬件经历说明,供应链掉链子、零件发错、芯片在回流焊里翘曲和三个月流片周期,是 AI 硬起飞论绕不开的物理约束。

7月10日星期五

AI 群聊日报

GPT-5.6 Sol 发布日:跑分领先但群友实测还是给 Fable 打工,有人让它读完整个 GitHub 写遗书

OpenAI 把 Codex 客户端改名叫 ChatGPT,GPT-5.6 Sol 正式上线。

推荐理由:OpenAI 把 Codex 客户端改名为 ChatGPT 并上线 GPT-5.6 Sol,这条群聊日报记录了官方跑分之外社区实测的对比结果。

Computing Life · Share · 鸭哥调研

别再往大模型窗口里塞几百万字了:用 RLM 像跑代码一样查 Context

Alex Zhang 提出的递归大语言模型(RLM)换了个思路处理长文本:不把资料塞进模型窗口,而是留在外部当数据,让模型自己写代码去查。在 depth=1 配置下,RLM 带着 GPT-5-mini 把 OOLONG-Pairs 的 F1 从 0.04% 拉到了 58.0%,BrowseComp-Plus 准确率从 0% 拉到 91.3%。

推荐理由:Alex Zhang 提出的 RLM 把长文本留在外部当数据、让模型写代码去查,depth=1 下把 OOLONG-Pairs 的 F1 从 0.04% 提到 58.0%,BrowseComp-Plus 准确率从 0% 提到 91.3%。

7月9日星期四

Hacker News 首页

Meta 发布 Muse Spark 1.1:一个能自己用工具、写代码、管多步骤任务的多模态推理模型

Meta 超级智能实验室推出了 Muse Spark 1.1,相比上一代在工具调用、电脑操作和写代码上提升明显。这个模型能直接上手没见过的工具和 MCP 服务器(一种让模型调用外部服务的协议),不需要额外训练。它支持 100 万 token 的上下文窗口,能记住之前干过什么,还会主动压缩记忆,只保留关键步骤。

推荐理由:Meta 超级智能实验室发布 Muse Spark 1.1,无需额外训练即可调用陌生工具和 MCP 服务器,并支持 100 万 token 上下文与主动记忆压缩。

Computing Life · Share · 鸭哥调研

GPT-5.5 的推理卡在 516 个 token:模型“想”的那一层会单独坏掉

开发者 vguptaa45 审计了 39 万条 Codex 响应,发现 GPT-5.5 在 44% 的编程任务里,推理部分刚好在 516 个 token 处截断,而 GPT-5.4 是 19.8%,GPT-5.2 只有 0.34%。被截断的任务全部答错,同一道题如果完整跑完 6000 到 8000 个 token 则全对。

推荐理由:开发者vguptaa45审计Codex响应发现GPT-5.5推理截断的编程任务全部答错,同题完整推理时全对。