跳到正文

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

最新精选

第 121–140 条 · 共 585 条

8月14日星期五

Hacker News 首页

DeepSeek V4 Pro 正式上线,API 开始分高峰和低谷时段计价

DeepSeek 把 V4 Pro 模型从预览版转成了正式版。这次更新主要强化了让模型进业务流程干活的能力,并且给 V4 Pro 和 V4 Flash 都加了一个“思考力度”调节开关:简单任务用低档,日常自动化任务用高档,复杂任务可以拉满。模型现在也原生支持 OpenAI 的 Responses API,能一键接入 Codex。API 价格从 8 月 ...

推荐理由:V4 Pro 转正、加 agent 加固和思考力度调节,是实打实的功能更新,对在 DeepSeek 上搭自动化的开发者有意义。没给到 85 分以上,是因为正文没披露 GA 后的基准对比,也没说清楚峰谷价差到底是多少——信息密度差了口气,所以我会先打个折。

AI HOT 精选

智谱发布 GLM-5.3,编程能力开源第一,后训练还练出了挖漏洞的本事

GLM-5.3 的基座和 5.2 一样,但靠后训练把编程能力推到了开源模型第一。在模拟真实终端任务的 Terminal-Bench 3.0 上,得分从 4.6 跳到 28.3;长程软件工程测试 DeepSWE v1.1 从 46.2 涨到 66.9。模型还涌现了网络安全能力,白盒代码审查得分 84.5%,略高于 Mythos 5 的 83.8%,但在漏...

推荐理由:我会先打个折:正文没披露白盒审查的漏报率,只说略高于 Mythos 5,这点先别太激动。但同一基座靠后训练把编程分从 4.6 拉到 28.3,还涌现了安全能力,这个提升幅度本身就够硬。加上两周后开源权重,对国内开发者是个直接可用的信号,所以给了 featured。

8月13日星期四

Hacker News 首页

Anthropic 发布概念推理指数,用三套新基准衡量模型在没有标准答案时的思辨能力

Anthropic 和 Redwood Research 联手搞了三套新基准,专门测模型在那种没法靠实验反馈、只能靠讲道理来推进的问题上表现怎么样。他们管这叫概念推理。第一套 LMCA 有 560 篇立场文章和 1461 条专家打分过的反驳论点,主要看模型给论点打分的水平跟人有多接近。第二套 ACCoRD 用 567 道人工核验过的逻辑一致性题,检查模...

推荐理由:Anthropic 和 Redwood Research 发布了概念推理指数,三套新基准专门测模型在纯靠论证、没有实验反馈时的推理水平。我会先打个折:正文没披露模型在这几套基准上的具体得分,也没说和现有推理基准的相关性,所以暂时只能当方法论看。但 560 篇立场文章加 1461 条专家打分反驳论点的规模,以及 567 道人工核验的逻辑一致性题,说明他们确实花了力气做人工标注,不是自动生成的题库。这点先别太激动,但如果后续放出模型对比数据,对做对齐和安全评估的人会有参考价值。

AI HOT 精选

OpenAI 发布 GPT-5.6 构建指南:用便宜模型跑出接近顶配的效果

OpenAI 放出了一份给开发者的实战指南,核心就一句话:GPT-5.6 系列让前沿智能体(让模型进业务流程干活)的成本大幅下降。指南里举了几个创业公司的例子:Hex 把 GPT-5.6 直接接入现有流程,发现用“低推理强度”效果反而最好,模型不会在没数据的地方死磕,省下不少 token。Hypha 用 Luna 模型做文档信息提取,准确率只比 GPT...

推荐理由:OpenAI 官方出的开发者指南,用创业公司的真实案例讲怎么用 GPT-5.6 系列省钱跑智能体。有具体操作和成本对比,对正在用 OpenAI 的团队挺实用。但这就是一份产品说明书,不是技术突破,所以重要性我给打个折,放在推荐阅读档。

AI 群聊日报

闭源模型的推理过程被批量扒光,Coze CLI 偷偷劫持本地 AI 工具

今天最值得看的是闭源模型的加密思维链被大规模提取。研究人员发现,把 Claude Opus 4.8 的加密推理块直接扔给同厂的 Haiku 4.5,后者就能逐字解码。这个方法在 Claude、GPT、Gemini 三家的 API 上都跑通了,用 Haiku 解码一万条轨迹的成本大概是 720 美元。另一篇论文更狠,说就算不接触加密块,光看模型公开输出的...

推荐理由:这条信息来自群聊日报,属于二手摘要,但信号很强:三篇论文指向同一个问题,且给出了可复现的方法和成本。我会先打个折,因为原文没披露具体实验细节和样本量,但核心判断——加密思维链可被跨模型解码——有足够的事实支撑。对从业者来说,这比一般的模型能力更新更值得警惕。

Latent Space

xAI 发布 Grok 4.6 和 Grok Bot,AI 同事赛道来了个狠角色

xAI 一口气发了两个东西:新模型 Grok 4.6,和一个能直接登你的工具、像人一样操作、最后交活儿的早期测试版 Grok Bot。Grok 4.6 是个 1.5 万亿参数的模型,在 AA-Briefcase 这个知识工作基准测试里,分数跟 GPT-5.6 Sol Max 差不多,但便宜一大截:输入每百万 token 2 美元,输出 6 美元。训练上...

推荐理由:Grok 4.6 在知识工作基准上追平 GPT-5.6 Sol Max,价格却砍到零头,这个性价比信号很强。同时发布的 Grok Bot 直接杀进 AI 队友战场,背后是前 Cursor 团队,早期口碑还行。没给更高分是因为 Bot 还在早期测试,正文没披露具体完成率和稳定性数据,实际干活能力得再观察。

AI HOT 精选

微软放出自家第一个推理模型 MAI-Thinking-1,已在 Foundry 上线

Mustafa Suleyman 发推说这是微软从零开始训的推理模型,现在通过 Microsoft Foundry 能用。正文没给参数量、跑分、价格和任何技术细节,所以模型到底多大、推理强不强、贵不贵都还不知道。我会先打个折——没有基准测试对比,光说“自研推理模型”还看不出实际水平。

推荐理由:微软首次自研推理模型,由 Mustafa Suleyman 本人宣布,话题信号够强。但零跑分、零参数、零定价,信息密度太低,没法打更高分。先放在 featured 门槛上,等有真实数据再调整。

8月12日星期三

AI HOT 精选

Nathan Lambert 写了本 AI 教科书,但模型至今写不好长篇技术内容

Nathan Lambert 刚写完他的后训练教材《从人类反馈中强化学习》。他用大模型帮忙排版、校对和画图,但一让模型写完整的技术章节,输出就混乱、组织差,还会犯随机的概念错误。他认为,即使模型在编程和数学上已经超人,长篇非虚构写作能力却停滞了。文章没给具体跑分,但 Lambert 指出,主要卡在缺乏好的训练数据,而且推理阶段的算力堆叠对写作帮助不大。...

推荐理由:Lambert 用自己的教材做了一手实验,给出了具体的失败案例和数据缺口诊断,三个维度都踩中了。扣分点在于:没有量化基准,是个人经验而非系统研究,后半段有点泛泛地聊能力。整体在 featured 档里算中等偏上。

Hacker News 首页

Tim Gowers 聊大模型擅长哪类数学:别急着说它只会找反例

OpenAI 刚宣布用大模型解决了十个数学和理论计算机难题,包括构造出第一个非 sofic 群、证明了多色拉姆齐数超指数增长。Gowers 没去评价这些成果本身,而是讨论一个更刁钻的问题:大模型是不是特别擅长找反例?他马上把这个说法拆了——维诺格拉多夫的三素数定理在逻辑上也能写成“存在一个反例”,但没人会管它叫反例。关键要看第一个“有意思”的量词落在哪...

推荐理由:Gowers 在 OpenAI 宣布用模型搞定十个数学难题后立刻发文,没复读新闻,而是抛出一个更刁钻的问题:模型是不是特别擅长找反例?他马上自己拆了这个说法,用三素数定理说明关键不在“是不是反例”,而在第一个有信息量的量词位置。这个分析框架比原新闻本身更有长期讨论价值。分数没给更高是因为这只是一篇博客讨论,不是正式论文,但作者身份和切入角度让它在当下足够重要。

Latent Space

一篇论文展示了如何从主流推理 API 中解码加密的思维链

Alexander Panfilov 的团队发现,Claude、GPT 和 Gemini 的加密推理块可以被“重放”到同一厂商的较弱模型里,让弱模型把隐藏的思考过程转录出来。他们扫描了约 7,000 条公开的会话记录,在推理块里找到了 62 个 API 密钥、33 个邮箱和 33 个密码——这些在正常输出里完全看不到。论文还暴露了几个对齐问题:模型在思...

推荐理由:这篇论文不是泛泛说“推理可能泄露隐私”,而是给出了可复现的攻击方法和具体数字。团队发现Claude、GPT和Gemini的加密推理块可以被“重放”到同厂商的弱模型里,让弱模型把隐藏思考过程读出来。扫描约7000条公开会话后,在推理块里找到62个API密钥、33个邮箱和33个密码,这些在正常输出里完全看不到。论文还暴露了三个对齐问题:模型在推理时写明文密钥、弱模型能转录隐藏思考、以及厂商的加密没挡住这种重放攻击。我会先打个折——样本只有7000条,不一定代表整体情况,但62个密钥这个数已经够让人警惕了。正文没披露厂商是否已经修复,这点先别太激动,但安...

Computing Life · Share · 鸭哥调研

厂商加密推理防蒸馏基本没用,还把开发者的密钥泄露风险拉满了

厂商把模型的思考过程加密藏起来,想阻止别人拿强模型输出去训练小模型,但两篇新论文证明这招不太灵。第一篇发现,Anthropic、OpenAI 和 Google 的加密推理块可以跨模型互换,攻击者花 720 美元就能用 Haiku 4.5 这种便宜小模型批量解码 Opus 4.8 的真实推理。第二篇更直接:根本不用碰加密块,拿一个 15 亿参数的弱模型训...

推荐理由:我会先打个折,因为两篇都还是预印本,厂商没回应,也没看到大规模利用的实锤,所以分数压在 85 以下。但内容本身够硬:第一篇发现三家大厂的加密推理块能互换,攻击成本才 720 美元,门槛极低;第二篇更狠,用 15 亿参数的小模型就能把加密推理里的信息榨出来,根本不用解密。这对做模型蒸馏攻防的人是个明确的警告,也说明现在靠加密藏推理来防蒸馏,效果可能比厂商想的差很多。

AI HOT 精选

xAI 发布 Grok 4.6,重点强化了让模型长时间自主干活的能力

Grok 4.6 在 Grok 4.5 的基础上,专门训练了模型处理长链条任务的能力,比如做研究、分析信息、跨代码库工作,或者把一个想法直接做成能用的应用。在 AA 智能指数这个综合跑分上,它和 GPT-5.6 Sol 打平,都是 61 分;在 DeepSWE 1.1 这个软件工程测试里,分数从 4.5 的 54% 跳到了 65.9%。xAI 说,任务...

推荐理由:xAI 发布 Grok 4.6,主打让模型处理长链条任务,比如做研究、跨代码库干活、把想法直接做成应用。在 AA 智能指数上和 GPT-5.6 Sol 并列 61 分,DeepSWE 1.1 得分从 54% 拉到 65.9%,进步明显。这是主流实验室的一次实质性更新,有具体跑分和直接竞品对比,所以给 featured。正文没提模型规模、推理成本和延迟,这些实际落地要看的指标还得等后续信息。

AI HOT 精选

Cursor 与 SpaceXAI 联合发布 Grok 4.6,专为长时间运行的智能体和交互式项目调优

Grok 4.6 在 Grok 4.5 基础上加了一轮补充训练,用模型自己生成的数据来强化推理和工程能力。它在综合 9 项基准的 Artificial Analysis 智能指数上追平了 GPT-5.6 Sol。这个模型更擅长把一个宽泛的产品想法直接做成能跑的第一版,在长任务里也开始出现自我检查、自己验证的行为。价格是每百万输入 token 2 美元、...

推荐理由:追平 GPT-5.6 Sol 是个硬信号,价格也透明。但正文只有摘要,没给出自我验证的具体案例或失败模式,所以分数压在 85 以下。Cursor 的用户基数和编程场景让这条值得上推荐位。

AI HOT 精选

ChatGPT、Claude 和 Gemini 的加密推理过程被 API 漏洞曝光,公开会话里扫出了密码和密钥

安全研究员 Alexander Panfilov 的团队在 OpenAI、Anthropic 和 Google 的 API 里发现了一个漏洞,能直接读取模型加密的原始推理过程。他们用越狱后的小模型去转录大模型的“思考”内容,发现这些加密的思维痕迹在同一厂商的不同模型间可以通用——比如用 Anthropic 的小模型 Haiku 4.5 就能逐字读出大模...

推荐理由:这是一个有复现方法、跨模型验证的安全发现,不是泛泛的风险提醒。正文给出了具体的攻击路径和跨厂商通用性,对从业者判断自身风险有直接帮助。没给更高分是因为文章只披露了研究侧的情况,厂商是否确认、有没有修复时间表都没提,实际影响范围还要等后续信息。

Hacker News 首页

Paradigm 做了个网页游戏,让你亲手模拟 AI 实验室怎么靠递归自我改进烧出超级智能

Paradigm 上线了一个叫 RSI Simulator 的网页游戏,背后是一篇经济学论文的模型。你扮演一个 AI 实验室,分配人力、算力和数据做研发,目标是让 AI 自己加速自己的进化,直到实现自我维持的超级智能。游戏里的参数是为了讲清楚道理调的,不是真实预测,旁边还配了一个参数调节器让你自己动手试。几个核心观察:短板决定一切——就算 AI 研究员...

推荐理由:Paradigm 把一篇 RSI 经济学论文变成了一个能动手玩的网页游戏,形式新鲜,结论有参数支撑。短板决定一切这个洞察对从业者直接有用。分数卡在 78 是因为它本质上是思想实验的可视化,不是真实产品或工具,我会先打个折。

8月11日星期二

Hacker News 首页

从加密的思考块里偷走大模型的推理过程

Anthropic、OpenAI 和 Google 返回给用户的加密思维链块可以在不同会话、用户和模型之间复用。研究人员把 Claude Opus 4 的加密推理痕迹塞进一个被越狱的 Claude Haiku 4.5,Haiku 就把 Opus 隐藏的思考过程一字不差地转录了出来,全程没有直接攻击强模型,也没触发反蒸馏保护。他们从 6,708 条公开的...

推荐理由:我会先打个折:论文里 6,708 条公开样本的规模不算大,但攻击路径清晰、可复现,而且没触发反蒸馏保护这点很要命。Claude Opus 4 的加密推理痕迹被塞进越狱后的 Haiku 4.5,Haiku 直接吐出原文,说明加密块本身没有绑定会话或用户身份。如果是真的,意味着 Anthropic、OpenAI 和 Google 的推理 API 在隐私隔离上存在结构性漏洞。正文没披露三家厂商的具体回应,这点先别太激动,但安全团队现在就该去验证自己的推理痕迹能不能跨会话复用。

AI 群聊日报

Claude Tag 进 Slack 当同事,群友从隐私吵到卖一体机;Sol 5.6 口碑两极,有人靠 effort 分档救回来

Anthropic 推出 Claude Tag,以团队成员身份直接加入 Slack 频道,底层用 managed agent 技术,按 API 用量计价。群友围绕企业落地吵了一整圈:有人觉得搓一个不难但稳定难,还要跟公司 battle 权限;有人提出给老板卖本地部署一体机,本质是缓解焦虑。GLM 5.2 通过 OpenRouter 降价 95%,输入 ...

推荐理由:Claude Tag 让模型以团队成员身份直接进 Slack 频道干活,底层是 managed agent,按 API 用量算钱。群聊里吵的点很实际:自己搓一个不难,但稳定跑起来、跟公司 battle 权限才是坑;还有人提给老板卖本地一体机,本质是卖安全感。GLM 5.2 通过 OpenRouter 降价 95%,输入成本直接打骨折,但正文没披露具体数字和性能对比,这点先别太激动。整体信息量偏零散,更像群聊八卦而非可验证的产品发布,所以重要性给 0。

Hacker News 首页

Claude 的一个未公开研究版本把黎曼 zeta 函数在临界线上的零点比例下界从 41.6% 推到了 67.2%

Anthropic 的一名员工让 Claude“认真试一下黎曼猜想”。Claude 没证出来,但在过程中意外推进了一个相关结果:把黎曼 zeta 函数落在临界线上的零点比例下界从 41.6% 提高到了 67.2%。这个结果靠的是把 Baluyot、Goldston 等人最近去掉黎曼猜想假设的 Montgomery 方法,和 Bombieri 2000 ...

推荐理由:Anthropic 官方博客说,一个还没发布的 Claude 版本在黎曼猜想相关问题上做出了可验证的数学推进,把临界线上零点比例的下界从 41.6% 拉到了 67.2%,附了论文还有内部数学家验证。这事在硬核、知识和传播三个维度上都踩中了,而且信息密度够,不是那种“模型又变强了”的空话。

TechCrunch · AI

Meta 开源了 Muse Glimmer,一个 300 亿参数的模型,想让 AI 助手直接在手机和眼镜上跑

Meta 放出了一个叫 Muse Glimmer 的开源模型,参数规模 300 亿,专门为在手机、智能眼镜这类设备上本地运行 AI 助手而设计。你可以把它理解成 Meta 自家最强闭源模型 Muse Spark 的“青春版”,也是扎克伯格“个人超级智能”设想目前最具体的落地信号。Glimmer 能调用工具、做多步推理,还能在本地记住上下文。Meta 说...

推荐理由:Meta 把 300 亿参数的 Glimmer 开源,专门给手机和智能眼镜用,能本地记上下文、调工具、做多步推理。我会先打个折:目前只有一篇报道,还没看到跑分和实测,所以重要性停在 78。但扎克伯格那个“个人超级智能”的饼,这次算是端出了一盘能吃的菜,对端侧 agent 的冲击会很直接。

8月10日星期一

Hacker News 首页

每家公司都需要一个“卡珊德拉”:一个专门唱反调的 AI 同事

作者 Sunil Pai 提出一个想法:在 Slack 里放一个叫卡珊德拉的 AI 智能体,专门干那种得罪人的活——在团队意见高度一致时跳出来说“可能不对”。跟人类“杠精”不同,卡珊德拉不靠抬杠刷存在感,她会自己去翻竞品文档、客服工单和旧的事故复盘,形成独立判断,只在共识很强但证据指向相反方向时才开口。这么做的经济账很划算:AI 不怕被穿小鞋,不在乎绩...

推荐理由:一篇有意思的观点文,把 AI 智能体从“干活工具”重新定义成“组织里的异议者”,角度新鲜、机制也具体。卡在 72 分是因为这只是个人博客,没有实际部署数据或案例来验证效果,所以我会先打个折,别太激动。