跳到正文

#Meta

今日 0 条

6月2日星期二

FT · 科技

头部 AI 实验室开始正经研究机器有没有“意识”

Google DeepMind、Anthropic 和 Meta 都在研究 AI 能不能产生意识,以及这对人意味着什么。但正文被付费墙挡了,没披露具体用什么方法、有没有时间表、怎么才算“有意识”的评判标准。

推荐理由:我会先打个折:标题很抓人,但正文几乎没给干货。三家大厂在研究 AI 会不会产生意识,这确实是个能吵起来的话题,安全和对齐方向的人都会关注。可文章没披露他们怎么定义“意识”、用什么实验验证、有没有阶段性结论,连时间表都没有。所以这条只能当个信号看,别太激动。基于信息缺口,重要性停在 72,放在 featured 里提醒大家有这么个动向就够了。

5月29日星期五

机器之心 · 公众号

Meta 烧了 1830 亿 token,把 26 本数学教材翻译成了机器可验证的 Lean 代码库

Meta 放出了一个叫 ATLAS 的数学形式化库,用 Lean 4 语言把 26 本数学教材里的定义和证明搬了进去。整个工程消耗了 1830.57 亿个 token,生成了约 63 万行代码,包含 46203 条声明。其中 42837 个证明已经跑通,证明通过率 92.7%。说白了就是让 AI 把教科书上的数学推理,转成机器能严格检查的代码,以后训练...

推荐理由:HKR三项都站得住:token量、Lean库规模和已验证证明数都是硬数字。没给P1是因为这还是个偏专的研究开源发布,不是通用模型或产品级发布。

5月15日星期五

r/LocalLLaMA

让 7B 小模型从自己的错误里学习,HumanEval 正确率从 15% 涨到 68%,跑一次训练只要 3.5 美元

作者拿 Qwen 2.5 7B 基础模型做实验,先让它自己写代码、自己跑测试,把跑不过的代码和报错信息收集起来,再让它根据报错改出正确版本,这样就自动生成了“错误-修正”配对数据。用这批数据微调后,7B 模型在 HumanEval 上的通过题数从 25 题(约 15%)提升到 112 题(约 68%),数学能力也超过了 GPT-3.5。14B 版本只用...

推荐理由:我会先打个折:标题说 80% 但正文是 112/164,约 68%,这点先别太激动。不过 hook 确实抓人——让模型自己写题、自己答、再自己改错,用这些修正对去微调,HumanEval 直接翻几倍。14B 版本只用了 100 对样本、一张 H100 跑一个半小时花 3.50 美元,成本低到可以复现。正文没披露数学 benchmark 的具体名称和完整分数,验证偏弱,但作为单人实验,信息量和可操作性都够。保留 78 分,因为它是单篇 Reddit 帖子,且 80% 的说法和实际数字有出入。

1月5日星期一

Import AI

Meta 用 GPT、Claude 和 Llama 自动写底层算子,开发时间从几周缩到几小时,部分性能比 PyTorch 基线快 17 倍

Meta 公开了一套叫 KernelEvolve 的系统,专门自动生成和优化 AI 底层算子(kernel),用来在自家不同芯片上跑推荐模型、服务广告。它会接收需求,然后调用内部和外部的大模型(Llama、GPT、Claude)生成候选算子,通过验证后把好的结果存进知识库,让后续生成越来越准。Meta 说这套系统把新算子的开发时间从几周压到了几小时,生...

推荐理由:我会先打个折:这是 newsletter 对技术工作的转述,不是一篇独立论文,所以停在 80 分。但 HKR 三项都站得住——让模型写算子这件事本身就新鲜,数字和流程交代得够具体,去中心化训练那条线又直接碰到算力成本和权力集中的神经。正文说去中心化训练按每年 20 倍在涨,但跟前沿训练还差约 1000 倍,这点先别太激动,差距能不能继续缩小才是政策影响的关键。