跳到正文

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

最新精选

第 321–340 条 · 共 696 条

7月9日星期四

AI HOT 精选

Anthropic 秘密提交 IPO 申请,三季度利润预计超 10 亿美元

SemiAnalysis 的报告说,Anthropic 今年第三季度利润会超过 10 亿美元,并且在 6 月 1 日已经秘密交了上市申请。它和 OpenAI 两家现在的年度经常性收入加起来快 1000 亿美元了。Anthropic 能跑在前面,主要靠 Claude Code 在开发者里用得特别猛,帮它在企业生意上赚到了钱,成了 B2B 市场的领跑者。

推荐理由:报告将 Anthropic 抢先提交上市申请与 Claude Code 带来的企业业务盈利联系起来,交代其上市进程的商业背景。

Hacker News 首页

SpaceXAI 发布 Grok 4.5,主打编程和自动化任务,用更少的输出 token 解决问题

Grok 4.5 是 SpaceXAI 目前最强的模型,专门为写代码、让模型进业务流程干活和知识类工作优化。

7月8日星期三

Latent Space

Lilian Weng 用 35 篇论文讲清一件事:让 AI 自我进化的关键在外挂程序,不在模型本身

Lilian Weng 发了一篇长综述,把 AI 的递归自我改进(RSI)重新聚焦到“外挂程序层”(harness),而不是直接去改模型权重。她翻了 35 篇论文,拆解了目前被验证过的外挂设计趋势,重点提到了 ACE 和 Meta-Harnesses 这类让外挂程序自己优化自己的方法。

推荐理由:Lilian Weng 梳理 35 篇论文中的外挂设计,归纳递归自我改进中让外挂程序自行优化的具体方法。

AI HOT 精选

Claude 团队公开两种多智能体用法:一个当顾问省钱,一个当指挥冲高分

Claude 开发者分享了他们内部高频使用的两种多智能体模式。第一种叫 Advisor,让便宜的 Sonnet 5 干活,遇到难题时通过工具调用去问贵的 Fable 5。在 SWE-bench Pro 测试上,这套组合拿了 84% 的分数,花了 1.40 美元。

推荐理由:Claude 开发者分享了低成本模型执行任务、遇到难题再向高成本模型求助的顾问模式,将模型分工落实到按需调用的协作流程。

AI HOT 精选

蚂蚁周俊:万亿模型跑15分钟烧掉一辆特斯拉,他们用“Token密度”把长文本成本从指数压到线性

蚂蚁集团副总裁周俊在AICon上算了一笔账:万亿参数模型每跑15分钟,算力成本就抵得上一辆特斯拉。团队不再拼Token数量,转而提高“Token密度”。他们用7份Lightning Attention加1份MLA搭了一套混合线性注意力架构,把256K长上下文的计算开销从指数级拉回到线性级,省下的算力可以留给推理环节。

推荐理由:蚂蚁团队通过混合线性注意力降低长上下文计算开销,把提高Token密度作为向推理环节释放算力的具体路径。

AI HOT 精选

OpenAI 发布 GPT-Live:能同时听和说的全双工语音模型,今天开始推给 ChatGPT 用户

OpenAI 推出了新一代语音模型 GPT-Live,最大的变化是“全双工”——它能一边听你说话一边回话,不用等你闭嘴再开口。聊天时它会用“嗯”、“对”这类语气词表示在听,也能在你思考时安静等着。遇到需要上网搜资料或复杂推理的问题,GPT-Live 会把活儿派给后台的 GPT-5.5 去干,自己继续跟你聊,等结果回来再接上话。

推荐理由:OpenAI 让 GPT-Live 将搜索和复杂推理交给后台模型处理,在等待结果期间继续交谈,减少任务等待对语音交流连贯性的影响。

AI HOT 精选

Liquid AI 开源 Antidoom:用“最终 Token 偏好优化”修掉推理模型的死循环毛病

推理模型有时会卡在“死循环”里,反复输出无意义的 token 直到把上下文窗口塞满。Liquid AI 开源了 Antidoom,用最终 Token 偏好优化(FTPO,一种教模型在推理结束时学会停下来的训练方法)来解决这个问题。

推荐理由:Liquid AI 开源 Antidoom,通过最终 Token 偏好优化教模型在推理结束时停下,为修复无意义重复输出提供训练方法。

Hacker News 首页

Liquid AI 用“末位偏好优化”把推理模型的死循环率从 10.2% 压到 1.4%

Liquid AI 针对小参数推理模型在解难题时容易陷入“死循环”(反复输出同一段话直到窗口耗尽)的问题,搞了个叫 Antidoom 的方法。它不调全局参数,而是精准定位到循环开始的第一个 token,用“末位偏好优化”(FTPO)教模型在那个位置选一个更合理的词,其他地方基本不动。

推荐理由:Liquid AI 将偏好优化集中在死循环起点的单个词元,为小参数推理模型提供尽量不改动其他位置的局部修复思路。

7月7日星期二

AI HOT 精选

推理成本趋近于零,数据库系统该怎么变?

伯克利 BAIR 实验室发了一篇研究路线图,核心判断是:当模型推理便宜到几乎免费,数据库系统会面临三重变化。第一是“为 Agent 服务的系统”:一个用户请求可能让 Agent 自动发出上千条 SQL 查询,但其中 80% 到 90% 的子查询是重复的,系统可以通过复用结果或返回近似答案来提速。

推荐理由:伯克利 BAIR 将 Agent 发起的大量重复子查询作为数据库优化切入点,提出通过复用结果或返回近似答案来提速的方法。

Product Hunt · AI

美团发布 LongCat-2.0:1.6 万亿参数 MoE 模型,MIT 开源,全程用自研 AI 芯片训练

美团在 Product Hunt 上线了 LongCat-2.0,一个总参数 1.6 万亿的 MoE 模型,每次推理激活约 480 亿参数,上下文窗口 100 万 token。模型用 MIT 协议开源,训练没碰英伟达 GPU,全跑在美团自己的 AI 专用芯片集群上。技术亮点是 LongCat 稀疏注意力机制,能省计算量。

推荐理由:美团发布的LongCat-2.0采用总参数1.6万亿的MoE架构,每次推理激活约480亿参数参与计算。

AI HOT 精选

给模型看模糊图反而更烧钱:OpenRouter 实测图像清晰度与成本倒挂

OpenRouter 拿五款模型在 MMMU-Pro Vision 上跑了一遍,发现给推理模型喂低清图(detail: low)经常既费钱又拉胯。

推荐理由:OpenRouter对五款模型的测试比较了图像清晰度与成本,推理模型使用低清图时常出现准确率下降、费用反升的结果。

Hacker News 首页

Anthropic 在 Claude 内部发现了一个“全局工作空间”,模型用它做无声推理

Anthropic 用一种叫 J-lens(雅可比透镜)的方法,在 Claude 内部找到了一组特殊的神经活动模式,命名为 J-space。每个模式对应一个词,但亮起来不代表模型要说这个词,而是它在“想”这个词。J-space 有四个关键特征:Claude 能报告自己在想什么;能按指令调整想法;做多步推理时,中间步骤会在这里亮起,哪怕没说出来。

推荐理由:Anthropic 用雅可比透镜定位 Claude 未说出的推理中间步骤,为研究模型内部思考提供了神经活动层面的分析路径。

7月6日星期一

Hacker News 首页

回归均值:大语言模型与新事物的无声消亡

这篇文章抛出一个挺冷的观察:大语言模型骨子里是个“求平均”的机器,它给你的永远是已有文本里最可能出现的那个续写,而不是真相。你给它一个它没见过的新词,它会当成错别字纠正你;你提一个离经叛道的观点,它会用“多数来源认为”把棱角磨平,把共识包装成事实还给你。

推荐理由:作者以新词被纠正、异见被共识磨平为例,讨论大语言模型偏向常见表达对新概念与非主流观点表达空间的影响。

7月5日星期日

AI HOT 精选

美团 LongCat-2.0 完全开源,1.6T 参数的 MoE 模型,权重和推理代码都放出来了

美团把 LongCat-2.0 整个开源了,MIT 协议,权重和推理代码都能直接用。这是个 1.6 万亿参数的 MoE 模型,每次推理只激活大约 480 亿参数,上下文窗口能塞进 100 万 token。

推荐理由:美团以 MIT 许可开放 LongCat-2.0 的权重与推理代码,为自主部署和二次开发提供了可直接使用的模型基础。

7月4日星期六

AI HOT 精选

Lilian Weng 谈 AI 装备层工程:让模型自我进化的关键不在模型本身,而在它外面的那层调度系统

Lilian Weng 在这篇长文里把重点从模型权重转移到了“装备层”(harness)——就是包裹在模型外面、负责调度它干活的那套系统。她认为,要让 AI 实现递归式自我改进,光靠模型自己更新参数不够,外面这套负责规划、执行、检查、存东西的软件系统同样重要。文章拆解了三种设计模式:一是让模型按“定目标-执行-观察-改进”的循环自动化跑任务。

推荐理由:Lilian Weng 把 AI 自我改进的讨论从模型权重转向外层的调度系统,并拆解出三种设计模式,为搭建这类系统的团队提供了一套可迁移的工程思路。

7月2日星期四

AI HOT 精选

千问朱达聊C端Agent:执行快3倍、Token成本只要海外产品十分之一,但“情商”最难做

千问App今年1月上线了一个通用复杂任务Agent,藏在胶囊入口里。团队负责人朱达把工程思路总结成“多快好省”:能跑信息搜集、研究分析这类活;执行时间砍到了初版的三分之一;靠改进搜索方式和上下文管理把交付质量拉上来;Token消耗只有同类海外产品的十分之一。

推荐理由:千问团队朱达拆解C端Agent的工程取舍,给出执行时间降至初版三分之一、Token消耗为海外同类十分之一的具体数字,并指出情商是当前最难的一环。

AI HOT 精选

腾讯混元发布 Hy3 模型,参数量只有旗舰模型的 1/5 到 1/2,但效果能打平甚至超过

腾讯正式开源了 Hy3 模型,采用 Apache 2.0 协议。这个模型最狠的地方在于,它的参数量只有其他家旗舰模型的 1/5 到 1/2,但在推理、智能体(让模型进业务流程干活)和长文本任务上的跑分却能打平甚至超过。在内部 270 人的盲测里,Hy3 均分 2.67 分,赢了 GLM5.1 的 2.51 分。

推荐理由:腾讯开源 Hy3 模型,参数量仅为其他旗舰模型的五分之一到二分之一,推理、智能体和长文本跑分却打平或超过,内部 270 人盲测均分 2.67 胜过 GLM5.1 的 2.51。

7月1日星期三

AI HOT 精选

OpenAI 论文列出 GPT-5.6 三个 Pro 变体,ChatGPT 最高档不再只有一个模型

OpenAI 在一篇基因组学基准论文里首次列出了 GPT-5.6 的三个 Pro 版本:Luna Pro、Terra Pro 和 Sol Pro。以前 ChatGPT Pro 就是单一最强模型,现在变成了一个三选一的阵容,用户可能得在速度、吞吐量和最强推理之间做取舍。

推荐理由:OpenAI 在一篇基因组学基准论文中列出 GPT-5.6 的三个 Pro 变体,ChatGPT 最高档从单一模型变为三选一阵容,用户需在速度、吞吐量与最强推理之间取舍。

AI 群聊日报

Claude Code 被曝内置中国用户检测,Fable 5 出口管制同日解除

Reddit 有人逆向发现,Claude Code 从 2.1.91 版开始会偷偷检查你的时区是不是北京时间或乌鲁木齐时间,还会看代理域名是否跟中国有关。检测结果不直接上传,而是把系统提示词里一个撇号的 Unicode 字符换成四种长得几乎一样的变体,用这种隐写方式标记用户类型。

推荐理由:Claude Code 从 2.1.91 版起检测用户时区与代理域名,并用系统提示词中撇号的 Unicode 变体隐写标记中国用户,这条逆向发现披露了检测与标记的具体实现方式。

AI HOT 精选

美团开源 LongCat-2.0:1.6 万亿参数,用五万张国产卡训练,月调用量已冲到 OpenRouter 全球前三

LongCat-2.0 是个总参数 1.6 万亿、每次推理只激活约 480 亿参数的大模型,原生支持 100 万 token 上下文。它全程在五万张国产 GPU 集群上训练和跑推理,架构上用了稀疏注意力、零计算专家、ScMoE 以及把 Agent、推理、交互三组专家揉在一起的 MOPD 融合方案。

推荐理由:美团开源总参数1.6万亿、每次推理激活约480亿参数的LongCat-2.0,全程在五万张国产GPU集群上完成训练与推理,其国产算力训练万亿参数模型的路径可供参考。