跳到正文

#评测/基准

今日 0 条

11月13日星期五

Hacker News 首页

AI 模型了解女性、和平与安全原则,却不会主动提及

Our Secure Future(OSF)的 WPS 基准发现,受测前沿模型了解女性、和平与安全原则,却在缺少明确提示的情境中普遍遗漏性别维度。基准通过 Weval 评估 30 个场景、11 项标准,前沿模型群体在带提示情境中的平均表现为 0.82,在稀疏情境中降至 0.16。

11月7日星期六

Hacker News 首页

SketchAgentBench:评估 LLM 的 3D 空间推理能力

SketchAgentBench 是一个用于评估 LLM 3D 空间推理能力的基准。该基准通过草图任务考察模型对三维空间关系的理解。目前该条目在 Hacker News 首页获得 4 分,尚无评论。

11月6日星期五

The Decoder

SemiAnalysis 的 GDPx 工作基准测试中,没有 AI 智能体得分超过 12%

SemiAnalysis 发布模拟知识工作的 GDPx 基准,覆盖 11 个领域的 206 项任务,没有 AI 智能体得分超过 12%。Claude Opus 5.5 以 12% 领先,Gemini 4 Carbon 为 10.9%,每项任务成本为 $16.29,约为前者的三分之一;剔除网络安全、生物学和对齐领域后,GPT-6 Astra 以 11.8% 居首。

11月5日星期四

11月3日星期二

OpenAI News

OpenAI 发布 LifeVal 评测:衡量 AI 在日常生活中的任务表现

OpenAI 推出 LifeVal 评测,用于衡量模型在照护、健康、教育、家庭事务、个人财务、购物和政府服务等日常任务上的表现。该评测基于 3995 名受访者的代表性调查构建,GPT-6 Astra 在找房、订课、订购清真食品等多项任务上取得 100% 得分。OpenAI 称过去一年模型在浏览器使用、电脑使用和连接器任务上变得更快、更强、更对齐,推动 ChatGPT 从聊天工具转向智能体个人助理。

11月1日星期日

10月29日星期四

10月28日星期三

AI HOT · 技巧与观点

Pydantic AI 基准实测:代码模式让长任务成本降 58%、耗时降 51%

Pydantic AI 在内部基准的 5,276 次评分运行中测试了 8 个模型,代码模式使长任务成本降低 58%、耗时降低 51%、成功率提高 16.0 个百分点。

推荐理由:Pydantic AI 用同一组工具比较两种执行方式,代码模式在长任务中节省成本,在少量操作中则可能增加开销。

10月21日星期三

6月8日星期一

AI HOT 精选

面壁智能开源 VoxCPM2 语音模型,200 万小时数据训练,支持 30 种语言和 9 种方言

OpenBMB 把 VoxCPM2 的技术报告和模型都放出来了,Apache 2.0 协议。这是个 20 亿参数的语音生成模型,用超过 200 万小时的多语言语音数据训练,能说 30 种语言和 9 种中文方言。它主要干三件事:按自然语言指令设计语音、可控地克隆声音,以及高保真地延续一段语音。

推荐理由:面壁智能以 Apache 2.0 协议开源 20 亿参数的 VoxCPM2,训练数据超过 200 万小时,覆盖 30 种语言和 9 种中文方言,语音设计、克隆与延续三类能力一并公开。

机器之心 · 公众号

阿里 RTPurboV2:用几百步训练把注意力计算砍掉九成,原生 Transformer 又硬气了一回

阿里 RTP 团队发了 RTPurboV2,思路很直接:把模型里 85% 的注意力头换成滑动窗口注意力(SWA),剩下 15% 负责长距离检索的头用低秩投影、聚类和动态 top-p 压缩。适配训练只要大概 600 步、约 100 万条标注 token,Prefill 阶段推理加速最高到 9.36 倍。

推荐理由:阿里 RTP 团队把模型 85% 的注意力头换成滑动窗口注意力,适配训练约 600 步、100 万条 token,Prefill 阶段推理加速最高 9.36 倍。

6月7日星期日

机器之心 · 公众号

AI 真能学会心算?隐式思维链首次得到理论证明,Stuart Russell 参与

UC Berkeley 和普林斯顿的研究者给“隐式思维链”找了理论依据。他们提出 Log-ICoT 方法,用 k 奇偶校验任务做实验:当 k=16 时,训练阶段从传统方法的 15 步砍到 4 步。论文证明,在简化假设下,一个 L 层的 Transformer 可以通过 log₂k 个课程阶段把推理步骤内化到模型里,不用再像显式思维链那样一步步往外蹦字。

推荐理由:UC Berkeley 和普林斯顿研究者为隐式思维链提出 Log-ICoT 方法,在 k 奇偶校验任务上把 k=16 的训练步数从 15 步压到 4 步,并给出 L 层 Transformer 内化推理步骤的理论条件。

6月6日星期六

机器之心 · 公众号

大晓机器人和南洋理工发布 PhysX-Omni,一个框架直接生成能进仿真器跑的 3D 物体

这篇推文本身因为微信环境验证没抓到正文,我只能根据标题和已有英文摘要来说。PhysX-Omni 是一个 3D 生成框架,特点是生成出来的模型不是只能看,而是直接带物理属性,能区分刚体、软体和带关节的物体,扔进仿真器就能跑。配套的数据集 PhysXVerse 有超过 8700 个物理 3D 资产,覆盖 2900 多个类别。

推荐理由:大晓机器人与南洋理工发布的 PhysX-Omni 让生成的 3D 物体自带物理属性,可直接进仿真器运行,配套 PhysXVerse 含 8700 多个物理资产、覆盖 2900 多个类别。

6月5日星期五

机器之心 · 公众号

东南大学和北大搞了个机器人精细操作评测框架,说传统只看成功率的办法会把能力高估七成

这篇推文本身被微信的环境验证挡住了,正文内容没抓到。从标题和已有的英文摘要看,MetaFine 是一个诊断式的元评测框架,专门拆开看机器人在精细操作上的理解、感知和行为三个环节,而不是只给一个“成功/失败”的二元结果。研究团队说,传统只看最终成功率的评测方式,对精细操作能力的评估会虚高最多 70%。具体怎么测的、用了哪些任务和模型,正文没披露,没法展开。

推荐理由:东南大学与北大团队提出 MetaFine 元评测框架,把机器人精细操作拆成理解、感知、行为三个环节诊断,并指出只看成功率的传统评测会将能力高估最多七成。

Hacker News 首页

Transformer 真的需要 Q、K、V 三套投影吗?这篇论文系统测了三种共享方案

这篇 ICML 2026 的论文直接动手试了三种省参数的方案:让 Key 和 Value 共用一套投影(Q-K=V)、让 Query 和 Key 共用(Q=K-V),以及三者全共用(Q=K=V)。后两种会让注意力图变成对称的,作者用 2D 位置编码来打破对称性。

推荐理由:这篇 ICML 2026 论文系统测试了三种共享 Q、K、V 投影的省参数方案,并针对后两种方案注意力图对称的问题引入 2D 位置编码来打破对称性。

6月3日星期三

量子位 · 公众号

大晓机器人和南洋理工搞了个统一物理3D生成框架,刚体、软体、带关节的物体都能一次搞定

这个框架叫PhysX-Omni,目标是让生成的3D模型直接能进物理仿真跑起来,不用再手动修。它把刚体、软体和关节体三类物体的生成统一到一个流程里,省掉了以前要分开处理的麻烦。配套的PhysXVerse数据集有8700个资产,覆盖2900个类别,规模不小。

推荐理由:大晓机器人与南洋理工把刚体、软体和关节体的3D生成统一进PhysX-Omni一个流程,配套PhysXVerse数据集含8700个资产、覆盖2900个类别,省去分开处理再手动修模的环节。

Computing Life · Share · 鸭哥调研

vibe coding 之后:AI 编程的工业化

MAI 从 487 万个开源 PR 里筛出 26.5 万道可训练题目,又为它们建了一套三层判分体系。AI 编程这两年真正的变化不是模型变聪明了,而是训练基础设施被工业化了:出题从手工活变成了流水线,批改也从“单测全绿就行”升级到能检查工具使用效率和前端视觉质量。

推荐理由:MAI 从 487 万个开源 PR 中筛出 26.5 万道可训练题目,并搭建三层判分体系,把代码题的批改从单测通过扩展到工具使用效率与前端视觉质量。

AI HOT 精选

微软放出 MAI-Thinking-1,35B 活跃参数的 MoE 模型,没靠蒸馏自己从头训

微软发了 MAI-Thinking-1,一个混合专家(MoE)模型,总参数 1 万亿但每次只激活 350 亿,跑起来相对省算力。它用 30T token 从零预训练,没拿第三方模型做蒸馏,这点比较硬气。微软管自己的迭代优化流程叫“爬山机器”,听着像在反复试错往上拱。

推荐理由:微软发布 MAI-Thinking-1,总参数 1 万亿、每次激活 350 亿,用 30T token 从零预训练且未做第三方蒸馏,MoE 稀疏激活与自研训练路径是这条的主要看点。

6月2日星期二

机器之心 · 公众号

DataMaster:让模型自己搜数据、洗数据、拼数据,MLE-Bench Lite 奖牌率从 35.91% 拉到 68.18%

这篇论文提出了 DataMaster,一个让大模型自己当数据工程师的流程。它不碰模型结构和训练算法,只做三件事:自动搜索外部数据、清洗脏数据、把多个数据集拼成一张表。在 MLE-Bench Lite 这个机器学习竞赛基准上,DataMaster 把奖牌率从 35.91% 提到了 68.18%,几乎翻倍。

推荐理由:DataMaster 让大模型自己完成外部数据搜索、清洗与多表拼接,不改模型结构和训练算法,在 MLE-Bench Lite 上把奖牌率从 35.91% 提到 68.18%。

6月1日星期一

Import AI

AI 监管比想象中难;蛋白质折叠模型也找到了规模定律;有人给 AI 灭绝风险估了个价

这期 Import AI 聊了几件事。美国 AI 经济的真实增速可能被严重低估了:名义 GDP 在 2025 年约 2500 亿美元,但算上质量提升,实际年增速接近 2600%。之所以在常规统计里看不出来,是因为 AI 推理价格跌得和性能涨得几乎一样快,而且数据中心建设规模还没大到能明显拉动 GDP。

推荐理由:这期 Import AI 把 AI 灭绝风险当作可定价的经济问题来讨论,并给出美国 AI 经济名义规模约 2500 亿美元、质量调整后年增速接近 2600% 的估算。

5月31日星期日

机器之心 · 公众号

人大高瓴发了一篇40页综述,专门讲怎么给大模型打分

这篇综述把“评分标准(Rubrics)”这件事拆成了五个部分来讲:定义、怎么构建、怎么用来训练、怎么用来评估、以及还没解决的难题。它想回答一个很实际的问题:在模型能自己调用工具、走流程干活的 Agent 时代,光看答案对不对已经不够了,得有一套更细的尺子来衡量“好答案”到底好在哪里。

推荐理由:人大高瓴团队用40页综述把评分标准拆成定义、构建、训练、评估与未解难题五部分,回应Agent时代光看答案对错已不够的评测需求。

5月30日星期六

机器之心 · 公众号

港中文新优化器 Pion 在“等谱流形”上更新大模型,解决 AdamW 和 Muon 训练崩溃问题

香港中文大学等团队搞了个新优化器叫 Pion,核心思路是不动权重矩阵的奇异值,只在“等谱流形”上做正交等价变换来更新参数。他们拿一个 6000 万参数、没用归一化层的类 LLaMA 模型试跑,Pion 稳定训练了 96 亿个 token,而 AdamW 和 Muon 都崩出 NaN 了。

推荐理由:香港中文大学团队提出优化器 Pion,保持权重矩阵奇异值不变、仅在等谱流形上做正交变换更新参数,在 6000 万参数无归一化模型上稳定训练 96 亿 token,而 AdamW 和 Muon 均出现 NaN。

5月29日星期五

AI HOT 精选

Adam's Law:用模型训练时见过的高频词写提示,效果更好

FaceMind 团队在 100 种语言和四类核心任务上做了实验,结论很简单:保持意思不变,把提示词或微调文本换成预训练语料里出现频率更高的说法,大模型的表现会明显提升。他们把这个规律叫 Adam's Law(文本频率定律),相当于给数据工程补上了“频率”这个维度。原理不复杂——高频表达让模型在自己最熟悉的概率空间里干活,输出质量自然更稳。

推荐理由:FaceMind 团队在 100 种语言和四类任务上验证,把提示词换成预训练语料中的高频说法能提升大模型表现,为提示词写法提供了一个频率维度的思路。

5月28日星期四

量子位 · 公众号

用有限状态机给 GUI Agent 合成训练轨迹,每条成本压到 0.04 美元

这篇讲的是 AutoWebWorld 这个项目,它没有靠人工标注或大模型当裁判,而是用有限状态机(FSM)来定义网页的状态、前置条件和跳转规则,自动生成并验证 GUI Agent 的操作轨迹。最终合成了 29 个网页环境、875 个页面和 11663 条经过验证的轨迹,平均每条轨迹的成本大约 0.04 美元。

推荐理由:AutoWebWorld 用有限状态机定义网页状态与跳转规则,自动生成并验证 GUI Agent 轨迹,合成了 11663 条轨迹,平均每条成本约 0.04 美元。

机器之心 · 公众号

Mila 和 DeepMind 搞了个大一统的缩放定律公式 UNSL,想把参数量、数据量、训练步数这些变量塞进同一个框架里

正文因为微信环境异常被屏蔽了,具体技术细节看不到。从标题和已有英文摘要看,这篇论文提出了一种叫 UNSL(统一神经缩放定律)的多变量公式,不再只看模型参数或数据量单一维度,而是同时建模参数量、token 数、训练步数,还考虑了训练瓶颈、过拟合以及超参数调不好的负面影响。

推荐理由:Mila 与 DeepMind 提出 UNSL,把参数量、token 数和训练步数放进同一缩放公式,并纳入训练瓶颈与过拟合的影响,为多变量下的训练配置估算提供统一框架。

5月27日星期三

机器之心 · 公众号

AMD 论文发现 FP4 训练不稳,锅不在随机性不够

AMD 和宾州州立大学用 MI355X 原生 FP4 硬件预训练了 Llama 3.1-8B,端到端速度比 FP8 基线快了 9-10%。但论文指出,Wgrad(权重梯度)量化是拖后腿的环节,导致每个 token 的计算开销额外增加 26-27%,而且用确定性 Hadamard 方法也稳不住。正文没披露最终模型的验证集效果对比,这点先别太激动。

推荐理由:AMD 与宾州州立大学在 MI355X 上用原生 FP4 预训练 Llama 3.1-8B,端到端比 FP8 基线快 9-10%,但权重梯度量化让每 token 开销多出 26-27%。

AI HOT 精选

Anthropic 工程师称 Claude Mythos 用“巧妙简洁的证明”解开了 OpenAI 此前攻克的 Erdős 数学猜想

Anthropic 工程师 Sholto Douglas 在 X 上说,Claude Mythos 用一个“巧妙简洁的证明”解决了 Erdős 单位距离猜想,而 OpenAI 前不久刚把这个问题当作 AI 数学推理的里程碑。

推荐理由:Anthropic 工程师 Sholto Douglas 称 Claude Mythos 用一个巧妙简洁的证明解开了 Erdős 单位距离猜想,而 OpenAI 此前刚把该问题当作 AI 数学推理的里程碑。

5月26日星期二

FT · 科技

斯坦福研究:AI 招聘工具造成“明显的种族差异”

斯坦福大学牵头的一项研究发现,用 AI 工具筛选求职者会导致系统性的种族偏见。具体来说,被一家公司 AI 刷掉的候选人,在应聘其他用同类工具的公司时也会反复被拒。不过这篇报道正文被付费墙挡住了,研究用了多少样本、测了哪几家厂商的招聘系统、具体的差异率是多少,这些关键信息都没披露。

推荐理由:斯坦福大学研究发现,被一家公司 AI 招聘工具筛掉的求职者,在采用同类系统的其他公司也会反复被拒,偏见由此跨公司累积。

5月25日星期一

r/LocalLLaMA

RTPurbo:用几百步训练把全注意力模型转成稀疏推理,长上下文预填充快 9.36 倍

这篇论文提出 RTPurbo,能把原本用全注意力的模型改成稀疏注意力来跑推理,而且只需要几百步训练。做法是只给“检索头”保留完整的 KV 缓存,其他头用一个 16 维的 token 索引器来近似,相当于大幅压缩了要存要算的内容。在 100 万 token 的长上下文场景下,预填充阶段最高快了 9.36 倍,解码阶段快了约 2.01 倍。

推荐理由:RTPurbo 把全注意力模型改成稀疏推理,只给检索头保留完整 KV 缓存,其余头用 16 维索引器近似,几百步训练即可完成,在 100 万 token 场景下预填充最高快 9.36 倍。

5月24日星期日

r/LocalLLaMA

OpenBMB 在华为昇腾 NPU 上把大模型从头训成 1.58-bit,8B 模型性能保住全精度 97%

OpenBMB 放出了 BitCPM-CANN,一个在华为昇腾 NPU 上原生跑通的 1.58-bit(三值)大模型训练方案。他们用和 MiniCPM4 一样的架构与数据,从零训了 0.5B、1B、3B、8B 四个尺寸。

推荐理由:OpenBMB 在华为昇腾 NPU 上从零训练了 0.5B 到 8B 四个 1.58-bit 三值模型,8B 性能保留全精度的 97%,训练阶段即完成极低比特压缩。

5月23日星期六

机器之心 · 公众号

Bengio 团队新论文:用多条并行思路链做递归推理,效果比单条串行推理好

这篇论文提出了 GRAM,一个会生成多条内部推理轨迹、再从中挑出最优解的递归模型。在极难数独测试上,GRAM 用 16 步递归、同时跑 20 条并行思路,准确率达到 97.0%;作为对比,传统串行递归模型 TRM 要跑到 320 步才做到 90.5%。简单说,就是让模型多想几条路再选,比闷头一条路走到黑更靠谱,而且推理步数还少得多。

推荐理由:Bengio 团队提出 GRAM,让模型并行生成多条推理轨迹再选最优解,在极难数独上用 16 步递归达到 97.0% 准确率,而串行模型需 320 步才到 90.5%。

AI HOT 精选

Anthropic 公布 Glasswing 项目首月战报:用 Claude Mythos Preview 挖出上万个高危漏洞

Anthropic 说,他们和大约 50 家合作伙伴用 Claude Mythos Preview 模型,在全球最关键的基础软件里找到了超过一万个高危或严重级别的漏洞。现在瓶颈已经不是找漏洞的速度,而是验证、通报和打补丁的速度。

推荐理由:Anthropic 与约 50 家合作伙伴用 Claude Mythos Preview 在关键基础软件中找出超一万个高危漏洞,验证与修补速度成为新的瓶颈。

5月22日星期五

AI HOT 精选

首个在华为昇腾910B上全栈训练的1.58比特开源模型BitCPM-CANN发布

ModelBest、清华和OpenBMB搞了个BitCPM-CANN,从0.5B到8B都有,全程用华为昇腾910B NPU训练,没走英伟达路线。1.58比特三元量化意味着每个权重只取三种值,内存比BF16省了约6倍,能塞进手机、电脑和车载设备里跑。基准测试成绩保住了全精度模型的95-97%,这点挺实在。

推荐理由:ModelBest、清华和OpenBMB发布BitCPM-CANN,全程用华为昇腾910B训练,1.58比特量化让内存比BF16省约6倍,基准成绩保住全精度模型的95-97%。

5月21日星期四

新智元 · 公众号

中科大两篇顶会论文:教多模态大模型持续学新知识,同时不忘旧本事

中科大团队在顶会上发了两篇工作,专门解决多模态大模型“学新忘旧”的问题。一篇是 MMEVOKE,搞了一个包含 159 个子类、9422 个样本的评测集,用来检验模型在持续学习中会不会把之前的知识覆盖掉。另一篇是 KORE,提出用知识树扩充样本,再通过零空间约束微调来减少遗忘。

推荐理由:中科大团队用 MMEVOKE 评测集和 KORE 微调方法,针对多模态大模型持续学习中的遗忘问题给出可复用的评测与训练思路。

Latent Space

OpenAI 用通用推理模型花不到 1000 美元,推翻了一个 80 年前的数学猜想

OpenAI 公布了一个内部通用推理模型(外界猜是 GPT 5.6)的成果:它找到了平面单位距离问题的新构造族,推翻了 1946 年 Erdős 提出的一个猜想。这个模型不是专门为数学训练的,就是普通的语言模型,但推理过程生成了约 125 页的总结。有外部观察者推测,这次运行只用了不到 32 小时,成本不到 1000 美元。

推荐理由:OpenAI 一个通用推理模型推翻了 1946 年 Erdős 提出的平面单位距离猜想,其推理过程生成约 125 页总结,外部观察者推测运行不到 32 小时、成本不到 1000 美元。

机器之心 · 公众号

谢赛宁团队发布第二代表征自编码器 RAEv2,训练效率大幅提升

谢赛宁团队、Adobe Research 和澳大利亚国立大学放出了 RAEv2。在 ImageNet-256 上训练 80 轮后,生成质量指标 gFID 做到了 1.06。更关键的是效率:衡量收敛速度的 EPFID@2 从上一代需要的 177 轮训练直接压缩到 35 轮,计算量维持在 189 GFLOPs 没涨。

推荐理由:谢赛宁团队联合 Adobe Research 和澳大利亚国立大学发布 RAEv2,在 ImageNet-256 上把收敛所需训练轮数从上一代的 177 轮压到 35 轮,计算量维持在 189 GFLOPs。