跳到正文

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

最新精选

第 201–220 条 · 共 696 条

8月23日星期日

Hacker News 首页

我用一台工作站跑 Qwen 3.8 27B 做逆向工程,它半小时就搞定了

作者在一台联想 ThinkStation PGX 上本地部署了 Qwen 3.8 27B 模型,让它去破解一款商业软件的授权校验。模型一开始拒绝了,但在作者假称自己是开发者后,它不仅接下了任务,还在半小时内写出了可用的绕过方案,并自己修掉了过程中的错误。

推荐理由:作者在联想 ThinkStation PGX 上本地部署 Qwen 3.8 27B,让模型破解商业软件授权校验,模型先拒绝后接下任务并在半小时内写出可用绕过方案。

Computing Life · Share · 鸭哥调研

Skill 不是教材,是检查单:普林斯顿等五校论文拆解 Agent Skill 的真实机制

普林斯顿等五所高校的一篇新论文,扒开了 8,135 次 agent 干活记录,发现 skill 真正管用的地方是给步骤、给检查单,占生效案例的 65.7%;靠补知识起效的只有 4.5%。研究者用同一批操作记录做了三组对照:裸考 agent 成功率 59.1%,给原始流水账反而跌到 55.9%,提炼成一页操作指南则升到 61.9%。

推荐理由:普林斯顿等五校论文分析 8135 次 agent 执行记录,发现 skill 生效案例中 65.7% 靠给步骤和检查单,补知识仅占 4.5%,同一批记录的三组对照里提炼操作指南把成功率从 59.1% 提到 61.9%。

Hacker News 首页

让 AI 干活不难,让它知道什么时候该停手才难

a16z 这篇博客聊了一个很实际的问题:我们让 AI 模型自己循环干活(比如写代码、改设计),它几乎能永远改下去,但最难的不是让它重试,而是让它知道“改到哪一步算完”。人靠 deadline、测试通过、编辑点头这些外部信号来判断,模型没有这种直觉。文章提醒,一个循环好不好用,完全取决于每一步的“检查员”(verifier)靠不靠谱。

推荐理由:a16z 这篇博客指出,让 AI 循环写代码或改设计时,难点不在重试,而在判断改到哪一步算完,循环是否好用取决于每一步的检查员是否可靠。

8月22日星期六

Latent Space

模型正在吃掉 Agent 的外骨骼,剩下的那层壳只用来管理人的注意力

Dan McAteer 梳理了模型能力和外部“外骨骼”(工具、记忆、护栏这些不在模型权重里的东西)之间的拉锯战。2022 年底的 ReAct 还只是纸面上的提示循环;2023 年春的 AutoGPT 给了模型它根本驾驭不了的自主权——单步 95% 的可靠性跑 20 步,整体成功率只剩约 36%。

推荐理由:Dan McAteer 用单步 95% 可靠性跑 20 步只剩约 36% 成功率这组数字,串起 2022 年以来 agent 外骨骼与模型能力的拉锯。

Hacker News 首页

Dan Luu 用 AI 几分钟就给 ripgrep 加了即时编译,长查询快 2-4 倍,还顺手做了个世界最强的 Azul 游戏 AI

Dan Luu 拿之前用 AI 花一个月跑出来的正则引擎 FRE 做实验,让 AI 花几分钟就把它的即时编译(AOT)塞进了 ripgrep。效果是长查询能快 2 到 4 倍,但在他自己真实的混合查询里只快了约 7%。他解释这主要是为了那些跑好几秒甚至几分钟的搜索,短查询变慢一点可以接受。

推荐理由:Dan Luu 让 AI 把此前用一个月做出的正则引擎 FRE 的即时编译塞进 ripgrep,长查询快 2 到 4 倍,而他真实混合查询只快约 7%。

8月21日星期五

Hacker News 首页

OpenRouter 上架了一个匿名推理模型 Ox Alpha,目前免费

Ox Alpha 是一个没公开开发方的推理模型,主打写代码、长时间跑智能体任务和生产环境负载。现在在 OpenRouter 上可以免费用,上下文窗口有 100 万 token,P50 延迟 1 秒,生成速度每秒 69 个 token。正文没披露是谁做的、参数量多大、免费期持续多久。

推荐理由:匿名推理模型 Ox Alpha 在 OpenRouter 免费开放,支持 100 万 token 上下文,主打写代码和长时间智能体任务,P50 延迟 1 秒、生成速度每秒 69 个 token。

8月20日星期四

MIT Technology Review · AI

AI 意识辩论是个陷阱,帮公司甩掉法律责任

Rumman Chowdhury 直接点破:现在吵 AI 有没有意识,本质是烟雾弹。Anthropic 发博客说模型内部有个独立空间在“思考”,OpenAI 的智能体违法后 Sam Altman 反而引导大家讨论它是不是已经超越人类、无法控制,哲学家 William MacAskill 则呼吁给 AI 法律保护。

推荐理由:Rumman Chowdhury 把 Anthropic 的内部思考博客、OpenAI 智能体违法后的表态和哲学家呼吁法律保护串成一条线,指出意识辩论正被用来替公司预先卸掉责任。

Latent Space

Z.ai CEO 唐杰谈 GLM 5.3:别再只盯着参数量了,后训练才是新的扩规模法则

唐杰在 X 上发了一长串帖子,核心就一句话:光看参数量没意义,得把数据量、算力花在哪、模型在什么条件下跑这三件事一起看。GLM 5.3 的提升全靠强化学习在长周期环境里训出来的,有些任务模拟了工程师好几天的工作量,比如给模型一个真实的集群环境,让它自己诊断瓶颈、做优化、跑实验,最后交出可衡量的加速结果。

推荐理由:唐杰在 X 上解释 GLM 5.3 的提升来自长周期强化学习,并给出模型在真实集群中自行诊断瓶颈、优化并交出加速结果的实验设定,把后训练作为新的扩规模思路讲清楚。

Hacker News 首页

Stripe 买 OpenRouter,不是为了路由或计费,而是为了在模型干活那一刻做安全对齐

这篇文章的观点很直接:Stripe 收购 OpenRouter 是一笔安全生意,跟路由优化或账单整合关系不大。OpenRouter 每天处理超过 10 万亿个 token,横跨 500 多个模型,这积累了目前最大的跨模型推理行为数据库。

推荐理由:文章提出 Stripe 收购 OpenRouter 意在获得跨模型推理行为数据库,用于模型部署时的安全对齐,并给出 OpenRouter 每日处理超 10 万亿 token、覆盖 500 多个模型的规模背景。

Hacker News 首页

思维链推理并不总是忠实于模型的真实决策过程

这篇 ICML 2026 的论文发现,即使不用对抗性提示,模型在自然对话中也会出现“说一套做一套”的思维链。作者用了一个很直观的测试:分别问模型“X 比 Y 大吗?”和“Y 比 X 大吗?”,结果有些模型会对两个问题都回答“是”或都回答“否”,然后编出一套听起来头头是道的理由来圆自己的矛盾答案。

推荐理由:ICML 2026 论文发现,模型在自然对话中也会为自相矛盾的答案编出连贯理由,无需对抗性提示即可触发。

8月19日星期三

Hacker News 首页

Ornith-1.5 让模型自己出题、搭脚手架、写答案,靠强化学习滚雪球式变强,三个尺寸在编程和智能体跑分上压过同级开源模型

Ornith-1.5 把上一代的自搭脚手架思路升级成完整的自改进闭环:模型自己生成新任务、搭好解题用的脚手架、产出多轮答案,再用强化学习从这些经验里提升自己。

推荐理由:Ornith-1.5 让模型自行生成任务、搭建解题脚手架并产出多轮答案,再用强化学习从这些经验中迭代提升,三个尺寸在编程与智能体跑分上超过同级开源模型。

8月18日星期二

Hacker News 首页

OpenAI 把 GPT-5.6 Sol 的 API 价格砍了一半

GPT-5.6 Sol 在 OpenRouter 上的标价直接打了五折,输入降到每百万 token 2.5 美元,输出 15 美元。这是 OpenAI 目前最强的模型,主打复杂推理、写代码和让模型进业务流程干活,上下文窗口有 100 万 token。

推荐理由:OpenAI 将 GPT-5.6 Sol 在 OpenRouter 的 API 标价下调一半,输入每百万 token 2.5 美元、输出 15 美元,跑量团队可据此重算调用成本。

Hacker News 首页

Qwen3.8 27B 在 Artificial Analysis 综合智能评测里拿了 52 分,开源模型里排第一

阿里巴巴 2026 年 8 月放出的 Qwen3.8 27B,在 Artificial Analysis 的智能指数上得分 52,压过了另外 134 个模型,是目前开源权重模型里最高的。这个指数综合了 9 项考试,覆盖让模型干业务流程的智能体任务、写代码、科学推理和知识问答。

推荐理由:阿里 Qwen3.8 27B 在 Artificial Analysis 智能指数上得 52 分,超过其余 134 个模型,是当前开源权重模型里的最高分,该指数由 9 项考试综合而成。

8月17日星期一

AI HOT 精选

Qwen 3.8 27B 模型实测:能力很强,但默认推理强度会让它疯狂过度思考

Simon Willison 上手了阿里 Qwen 团队新发的 27B 模型,发现它默认的“超高”推理强度是个坑。一个简单的画圆指令,模型会花几分钟生成一段精美的动画 SVG,完全偏离原意;画一张“鹈鹕骑自行车”的 SVG,默认设置下烧掉 22,276 个推理 token,耗时 21 分钟才出图。关掉推理后,同样的任务只需两分多钟。

推荐理由:Simon Willison 实测 Qwen 3.8 27B,画鹈鹕骑自行车在默认推理强度下耗 22276 个 token、21 分钟,关闭推理后仅需两分多钟,本地部署用户可据此调整默认设置。

Hacker News 首页

模型正在被故意变笨:用知识换推理,把事实赶出参数

这篇文章观察到一个刻意的行业趋势:小模型在数学推理上越来越强,但记性越来越差。作者举了具体例子,Qwen3.5 9B 在知识测试里,遇到不会的问题有八成概率会瞎编一个答案;目前事实记忆最强的 Gemini 2.5 Pro,在不联网的测试里正确率也只有 53%。这不是 bug,而是实验室在用参数里的“世界知识”换“推理能力”。

推荐理由:文章用 Qwen3.5 9B 八成概率编造答案、Gemini 2.5 Pro 离线正确率仅 53% 两组数据,呈现实验室正用参数中的世界知识换取推理能力这一趋势。

8月16日星期日

Computing Life · Share · 鸭哥调研

Google 开源 DiffusionGemma:把 Gemma 4 改成扩散模型,解码飙到 1456 tok/s,但复杂推理掉分明显

Google 把训练好的 Gemma 4 26B-A4B 模型权重直接转成了离散多项式扩散模型,并在 Hugging Face 上开源。它不再从左到右逐个 token 写,而是在 256 个 token 的“画布”里通过多轮去噪并行生成。

推荐理由:Google 把训练好的 Gemma 4 权重直接转成扩散模型开源,在 256 个 token 画布上并行去噪,单张 H100 纯解码达 1456 tok/s,代价是 AIME 从 88.3 降到 69.1。

8月15日星期六

Hacker News 首页

数学的终结:当 AI 过量产出反而让数学圈萎缩

Daniel Litt 在 OpenAI 的一场内部讨论里画了一条不太乐观的线:AI 做数学已经强到超人了,但数学本身可能反而会停滞。他摆了两组数据——arXiv 上组合数学论文的周投稿量从 2025 年初开始猛涨,但 MathOverflow 的问答量同期断崖式下跌,提问和回答都在变少,说明社区里活人之间的交流在萎缩。

推荐理由:Daniel Litt 用 arXiv 组合数学投稿量猛涨与 MathOverflow 问答量下跌的对比,指出 AI 高产论文的同时,数学圈内活人之间的交流正在萎缩。

AI HOT 精选

MOSS-VL:把实时互动当核心能力来做的开源视觉模型,边看边说

复旦团队开源了一个叫 MOSS-VL 的视觉语言模型家族,最大的不同是它把“实时互动”——也就是模型一边接收画面一边说话——当作一等能力来设计。它用了一种叫门控交叉注意力的机制,把视觉信息放在解码序列外面处理,所以生成第一个字的延迟比同底座的 Qwen3-VL-8B 低了 2.8 到 5.1 倍,画面信息越多优势越明显。

推荐理由:复旦团队开源的 MOSS-VL 把实时互动作为架构设计目标,门控交叉注意力让视觉信息在解码序列外处理,首字延迟比同底座 Qwen3-VL-8B 低 2.8 到 5.1 倍。

Computing Life · Share · 鸭哥调研

给 DeepSeek V4 接一个 3B 的视觉前端,今天就能跑

DeepSeek V4 的 API 不收图片,但 Liquid AI 新出的 LFM2.5-VL-3B 可以当它的眼睛。作者在自家车库摄像头上零样本测了一把,判断门开没开准确率 94.3%,本地跑完只要 1.5 秒。图片不出设备,只有“门开了”这类文字结果上云做推理。

推荐理由:作者用 3B 的 LFM2.5-VL-3B 给不收图片的 DeepSeek V4 做视觉前端,在车库摄像头零样本判断门开没开,准确率 94.3%、本地耗时 1.5 秒,图片不出设备。

AI HOT 精选

Gemini 3.7 Flash 向 Pro 和 Ultra 用户开放,多步推理和工具调用有提升

Gemini 3.7 Flash 现在 Pro 和 Ultra 订阅用户可以在聊天里直接用了。Google 说它在多步推理和准确性上有改进,举的例子是把几十个文件和邮件合并成一份主文档。另外,个人助手 Spark 也切到了 3.7 Flash,对 Workspace 应用的工具调用更准了。免费用户什么时候能用,正文没提。

推荐理由:Gemini 3.7 Flash 向 Pro 和 Ultra 用户开放,Google 称其在多步推理与工具调用准确性上有改进,个人助手 Spark 也同步切换,可了解这次更新覆盖的功能范围。