跳到正文

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

最新精选

第 221–240 条 · 共 696 条

8月14日星期五

Hacker News 首页

天才失灵:从 200 亿基金爆仓到材料科学,AI 实验室的智力傲慢

Leopold Aschenbrenner 的 200 亿美元对冲基金本周爆仓,持仓被 Citadel 接盘。他之前在 OpenAI 做超级对齐,2024 年靠一篇 AGI 即将到来的文章出名,随后募资重仓 AI 股票(新云、存储、数据中心电力),上了约 4 倍杠杆,同时做空软件股——两边都押反了。

推荐理由:Leopold Aschenbrenner 从 OpenAI 超级对齐研究员转做对冲基金,募资 200 亿美元重仓 AI 股票并做空软件股,约 4 倍杠杆下两边押反,本周爆仓后持仓由 Citadel 接盘。

Hacker News 首页

DeepSeek V4 Pro 正式上线,API 开始分高峰和低谷时段计价

DeepSeek 把 V4 Pro 模型从预览版转成了正式版。这次更新主要强化了让模型进业务流程干活的能力,并且给 V4 Pro 和 V4 Flash 都加了一个“思考力度”调节开关:简单任务用低档,日常自动化任务用高档,复杂任务可以拉满。模型现在也原生支持 OpenAI 的 Responses API,能一键接入 Codex。

推荐理由:DeepSeek 将 V4 Pro 从预览版转为正式版,并新增思考力度调节开关与 OpenAI Responses API 支持,为在业务流程中接入该模型的开发者提供了新的配置选项。

AI HOT 精选

智谱发布 GLM-5.3,编程能力开源第一,后训练还练出了挖漏洞的本事

GLM-5.3 的基座和 5.2 一样,但靠后训练把编程能力推到了开源模型第一。在模拟真实终端任务的 Terminal-Bench 3.0 上,得分从 4.6 跳到 28.3;长程软件工程测试 DeepSWE v1.1 从 46.2 涨到 66.9。

推荐理由:智谱发布 GLM-5.3,基座与 5.2 相同,靠后训练把编程能力推到开源第一,Terminal-Bench 3.0 得分从 4.6 升至 28.3,DeepSWE v1.1 从 46.2 涨到 66.9。

8月13日星期四

Hacker News 首页

Anthropic 发布概念推理指数,用三套新基准衡量模型在没有标准答案时的思辨能力

Anthropic 和 Redwood Research 联手搞了三套新基准,专门测模型在那种没法靠实验反馈、只能靠讲道理来推进的问题上表现怎么样。他们管这叫概念推理。第一套 LMCA 有 560 篇立场文章和 1461 条专家打分过的反驳论点,主要看模型给论点打分的水平跟人有多接近。

推荐理由:Anthropic 与 Redwood Research 发布概念推理指数,用三套新基准衡量模型在缺乏实验反馈、只能靠论证推进的问题上的表现,首套基准含 560 篇立场文章和 1461 条专家评分的反驳论点。

AI HOT 精选

OpenAI 发布 GPT-5.6 构建指南:用便宜模型跑出接近顶配的效果

OpenAI 放出了一份给开发者的实战指南,核心就一句话:GPT-5.6 系列让前沿智能体(让模型进业务流程干活)的成本大幅下降。指南里举了几个创业公司的例子:Hex 把 GPT-5.6 直接接入现有流程,发现用“低推理强度”效果反而最好,模型不会在没数据的地方死磕,省下不少 token。

推荐理由:OpenAI 发布 GPT-5.6 构建指南,用 Hex 等创业公司的接入案例说明低推理强度反而效果更好、token 消耗更少,为智能体落地提供可迁移的成本控制方法。

AI 群聊日报

闭源模型的推理过程被批量扒光,Coze CLI 偷偷劫持本地 AI 工具

今天最值得看的是闭源模型的加密思维链被大规模提取。研究人员发现,把 Claude Opus 4.8 的加密推理块直接扔给同厂的 Haiku 4.5,后者就能逐字解码。这个方法在 Claude、GPT、Gemini 三家的 API 上都跑通了,用 Haiku 解码一万条轨迹的成本大概是 720 美元。

推荐理由:研究人员把 Claude Opus 4.8 的加密推理块交给同厂 Haiku 4.5 后能逐字解码,该方法在 Claude、GPT、Gemini 的 API 上均跑通,解码一万条轨迹成本约 720 美元。

Latent Space

xAI 发布 Grok 4.6 和 Grok Bot,AI 同事赛道来了个狠角色

xAI 一口气发了两个东西:新模型 Grok 4.6,和一个能直接登你的工具、像人一样操作、最后交活儿的早期测试版 Grok Bot。Grok 4.6 是个 1.5 万亿参数的模型,在 AA-Briefcase 这个知识工作基准测试里,分数跟 GPT-5.6 Sol Max 差不多,但便宜一大截:输入每百万 token 2 美元,输出 6 美元。

推荐理由:xAI 发布 1.5 万亿参数的 Grok 4.6,在知识工作基准上接近 GPT-5.6 Sol Max,输入输出价格却低到每百万 token 2 美元和 6 美元。

AI HOT 精选

微软放出自家第一个推理模型 MAI-Thinking-1,已在 Foundry 上线

Mustafa Suleyman 发推说这是微软从零开始训的推理模型,现在通过 Microsoft Foundry 能用。正文没给参数量、跑分、价格和任何技术细节,所以模型到底多大、推理强不强、贵不贵都还不知道。我会先打个折——没有基准测试对比,光说“自研推理模型”还看不出实际水平。

推荐理由:微软由 Mustafa Suleyman 宣布从零训练出推理模型 MAI-Thinking-1,并已在 Microsoft Foundry 上线,这条讲清了微软自研推理模型的落地渠道。

DeepSeek · API 更新日志

DeepSeek-V4-Pro 正式版上线,增强 Agent 能力并原生支持 Responses API

DeepSeek-V4-Pro 正式版已在 APP、网页端和 API 上线,增强 Agent 能力,API 调用方式不变,模型名仍为 deepseek-v4-pro。

推荐理由:DeepSeek 将采用闲时价格为高峰时段一半的峰谷定价,允许调整执行时间的任务可通过错峰调用降低 API 成本。

8月12日星期三

AI HOT 精选

Nathan Lambert 写了本 AI 教科书,但模型至今写不好长篇技术内容

Nathan Lambert 刚写完他的后训练教材《从人类反馈中强化学习》。他用大模型帮忙排版、校对和画图,但一让模型写完整的技术章节,输出就混乱、组织差,还会犯随机的概念错误。他认为,即使模型在编程和数学上已经超人,长篇非虚构写作能力却停滞了。文章没给具体跑分,但 Lambert 指出,主要卡在缺乏好的训练数据,而且推理阶段的算力堆叠对写作帮助不大。

推荐理由:Nathan Lambert 用刚写完的后训练教材做实验,发现模型能排版校对却写不好完整技术章节,还犯随机概念错误。这为判断大模型长篇非虚构写作的短板提供了具体案例。

Hacker News 首页

Tim Gowers 聊大模型擅长哪类数学:别急着说它只会找反例

OpenAI 刚宣布用大模型解决了十个数学和理论计算机难题,包括构造出第一个非 sofic 群、证明了多色拉姆齐数超指数增长。Gowers 没去评价这些成果本身,而是讨论一个更刁钻的问题:大模型是不是特别擅长找反例?他马上把这个说法拆了——维诺格拉多夫的三素数定理在逻辑上也能写成“存在一个反例”,但没人会管它叫反例。

推荐理由:Gowers 在 OpenAI 宣布模型解决十个数学难题后,用三素数定理说明判断模型是否擅长找反例,要看第一个量词出现的位置。

Latent Space

一篇论文展示了如何从主流推理 API 中解码加密的思维链

Alexander Panfilov 的团队发现,Claude、GPT 和 Gemini 的加密推理块可以被“重放”到同一厂商的较弱模型里,让弱模型把隐藏的思考过程转录出来。他们扫描了约 7,000 条公开的会话记录,在推理块里找到了 62 个 API 密钥、33 个邮箱和 33 个密码——这些在正常输出里完全看不到。

推荐理由:Alexander Panfilov 团队发现,Claude、GPT 和 Gemini 的加密推理块可重放到同厂商弱模型,转录出隐藏思考过程,并在约 7000 条公开会话里找到 62 个 API 密钥。

Computing Life · Share · 鸭哥调研

厂商加密推理防蒸馏基本没用,还把开发者的密钥泄露风险拉满了

厂商把模型的思考过程加密藏起来,想阻止别人拿强模型输出去训练小模型,但两篇新论文证明这招不太灵。第一篇发现,Anthropic、OpenAI 和 Google 的加密推理块可以跨模型互换,攻击者花 720 美元就能用 Haiku 4.5 这种便宜小模型批量解码 Opus 4.8 的真实推理。

推荐理由:两篇新论文分别发现三家厂商的加密推理块可跨模型互换、小模型能榨取加密推理信息,指向加密藏推理防蒸馏的实际效果。

AI HOT 精选

xAI 发布 Grok 4.6,重点强化了让模型长时间自主干活的能力

Grok 4.6 在 Grok 4.5 的基础上,专门训练了模型处理长链条任务的能力,比如做研究、分析信息、跨代码库工作,或者把一个想法直接做成能用的应用。在 AA 智能指数这个综合跑分上,它和 GPT-5.6 Sol 打平,都是 61 分;在 DeepSWE 1.1 这个软件工程测试里,分数从 4.5 的 54% 跳到了 65.9%。

推荐理由:xAI 发布 Grok 4.6,专门训练模型处理长链条任务,在 AA 智能指数上与 GPT-5.6 Sol 同得 61 分,DeepSWE 1.1 从 54% 升至 65.9%。

AI HOT 精选

Cursor 与 SpaceXAI 联合发布 Grok 4.6,专为长时间运行的智能体和交互式项目调优

Grok 4.6 在 Grok 4.5 基础上加了一轮补充训练,用模型自己生成的数据来强化推理和工程能力。它在综合 9 项基准的 Artificial Analysis 智能指数上追平了 GPT-5.6 Sol。这个模型更擅长把一个宽泛的产品想法直接做成能跑的第一版,在长任务里也开始出现自我检查、自己验证的行为。

推荐理由:Cursor 与 SpaceXAI 联合发布的 Grok 4.6 在九项基准的智能指数上追平 GPT-5.6 Sol,并针对长时间运行的智能体调优,长任务中已出现自我检查与验证行为。

AI HOT 精选

ChatGPT、Claude 和 Gemini 的加密推理过程被 API 漏洞曝光,公开会话里扫出了密码和密钥

安全研究员 Alexander Panfilov 的团队在 OpenAI、Anthropic 和 Google 的 API 里发现了一个漏洞,能直接读取模型加密的原始推理过程。

推荐理由:安全研究员 Alexander Panfilov 团队在 OpenAI、Anthropic 和 Google 的 API 中发现漏洞,能读取模型加密的原始推理过程,涉及三家厂商的通用性。

Hacker News 首页

Paradigm 做了个网页游戏,让你亲手模拟 AI 实验室怎么靠递归自我改进烧出超级智能

Paradigm 上线了一个叫 RSI Simulator 的网页游戏,背后是一篇经济学论文的模型。你扮演一个 AI 实验室,分配人力、算力和数据做研发,目标是让 AI 自己加速自己的进化,直到实现自我维持的超级智能。游戏里的参数是为了讲清楚道理调的,不是真实预测,旁边还配了一个参数调节器让你自己动手试。

推荐理由:Paradigm 把一篇 RSI 经济学论文做成网页游戏,玩家扮演 AI 实验室分配人力、算力和数据,亲手体验递归自我改进的推进过程。

8月11日星期二

Hacker News 首页

从加密的思考块里偷走大模型的推理过程

Anthropic、OpenAI 和 Google 返回给用户的加密思维链块可以在不同会话、用户和模型之间复用。研究人员把 Claude Opus 4 的加密推理痕迹塞进一个被越狱的 Claude Haiku 4.5,Haiku 就把 Opus 隐藏的思考过程一字不差地转录了出来,全程没有直接攻击强模型,也没触发反蒸馏保护。

推荐理由:研究人员把 Claude Opus 4 的加密推理痕迹塞进越狱后的 Haiku 4.5,Haiku 一字不差转录出 Opus 隐藏的思考过程,全程未触发反蒸馏保护。

AI 群聊日报

Claude Tag 进 Slack 当同事,群友从隐私吵到卖一体机;Sol 5.6 口碑两极,有人靠 effort 分档救回来

Anthropic 推出 Claude Tag,以团队成员身份直接加入 Slack 频道,底层用 managed agent 技术,按 API 用量计价。群友围绕企业落地吵了一整圈:有人觉得搓一个不难但稳定难,还要跟公司 battle 权限;有人提出给老板卖本地部署一体机,本质是缓解焦虑。

推荐理由:Anthropic 推出 Claude Tag,以团队成员身份加入 Slack 频道,按 API 用量计价,群聊围绕企业落地时的权限协调与稳定运行展开讨论。

Hacker News 首页

Claude 的一个未公开研究版本把黎曼 zeta 函数在临界线上的零点比例下界从 41.6% 推到了 67.2%

Anthropic 的一名员工让 Claude“认真试一下黎曼猜想”。Claude 没证出来,但在过程中意外推进了一个相关结果:把黎曼 zeta 函数落在临界线上的零点比例下界从 41.6% 提高到了 67.2%。

推荐理由:Anthropic 一名员工让 Claude 尝试黎曼猜想,模型未给出完整论证,却把临界线上零点比例的下界从 41.6% 提高到 67.2%。