跳到正文
Hacker News 首页

一个在5090上训练的小Transformer,花67美分在ARC-AGI-1上拿了44%

44% on ARC-AGI-1 in 67 cents

Mithil Vakde 用一张 5090 显卡,花 1.5 小时、67 美分,从零训练了一个小 Transformer,在 ARC-AGI-1 公开评估集上拿到 44% 的正确率,跟 TRM/HRM 打平,在 ARC-2 上只有 7%。做法是把每个谜题的输入输出转成 token 序列,用 3D RoPE 和每个任务单独学的嵌入来做跨任务学习,推理时对...

推荐理由:44%的ARC-AGI-1正确率,成本只要67美分、1.5小时、单张5090——数字本身就是故事。3D RoPE和按任务学的嵌入给了可复现的技术钩子,不是泛泛而谈。ARC-2只有7%是硬伤,说明方法离通用推理还远,但也正是这个缺口让分数停在78分,没往上走。

读原文 ↗导出 Markdown