跳到正文

开源生态

开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。

388 条精选相关主题模型发布Hugging FaceAI 编码

最新精选

第 221–240 条 · 共 388 条

6月11日星期四

AI HOT 精选

DiffusionGemma:用扩散模型做文本生成,速度比同尺寸自回归模型快4倍

Google DeepMind 开源了 DiffusionGemma,一个用扩散模型(就是像画图 AI 那样从噪声里逐步去噪)来生成文字的模型。它不再一个字一个字往外蹦,而是一次性并行去噪出整段文本,所以延迟大幅降低,官方说比同尺寸的自回归模型快 4 倍。权重、代码和训练配方都放上了 Hugging Face。

推荐理由:Google DeepMind 开源 DiffusionGemma,用扩散模型并行去噪生成整段文本,官方称比同尺寸自回归模型快 4 倍,权重、代码和训练配方均已公开。

6月9日星期二

AI HOT 精选

腾讯混元开源 UniRL:一套强化学习框架同时管图像生成和语言模型,还带了两个新算法

UniRL 把扩散模型、流匹配模型、大语言模型和视觉语言模型的强化学习训练塞进了同一个后训练循环里,流程就是生成、打分、算优势、更新参数再同步。框架把模型和算法拆成两个独立维度,可以自由组合,目前已经用在 Hunyuan-Image 3 和 Bagel 上。

推荐理由:腾讯混元开源 UniRL,把扩散、流匹配、语言和视觉语言模型的强化学习训练放进同一后训练循环,模型与算法解耦后可自由组合,为多模态对齐提供了一套可复用的训练基础设施。

r/LocalLLaMA

单张 MI50 跑 Qwen3.6-27B 速度翻倍:从 19.4 涨到 38.1 token/秒

有个玩家在单张 AMD MI50 上跑 Qwen3.6-27B 模型,用 Q8 或更低精度的量化版本时,发现显卡的算力没吃满。他想到一个取巧的办法:不额外加载一个小模型做投机解码,而是让同一个模型同时跑两路计算,假装自己有两份模型副本。结果生成速度直接从 19.4 token/秒翻到 38.1 token/秒。

推荐理由:有玩家在单张 MI50 上让 Qwen3.6-27B 同时跑两路计算,把生成速度从 19.4 token/秒提到 38.1 token/秒,为量化模型算力未吃满的情况提供了一种不加载小模型的提速思路。

r/LocalLLaMA

Levi:在你的本地 Qwen 30B 上跑类似 AlphaEvolve 的搜索系统

Levi 是一个开源项目,让你能在本地用 Qwen3-30B-A3B 模型跑一套类似 AlphaEvolve 的搜索系统。作者在 ADRS、IFBench 和 HotpotQA 三个基准上做了测试,声称在单模型、相同预算的条件下,整体成本最多能降到原来的 1/35,评估次数最多能减少到 1/12。

推荐理由:开源项目 Levi 让本地 Qwen3-30B-A3B 跑起 AlphaEvolve 式搜索,作者在三个基准上测得同等预算下成本最多降至 1/35、评估次数减至 1/12。

6月8日星期一

r/LocalLLaMA

Luce Spark:让 35B 的 MoE 模型在 16GB 显存上跑起来,不用忍受传统卸载的速度惩罚

Luce Spark 是一个开源方案,能让 Qwen3.6 35B-A3B 这种规模的混合专家模型在 RTX 3090 上只占 13.3 GiB 显存,跑出约 100 tok/s 的速度。

推荐理由:Luce Spark 让 Qwen3.6 35B-A3B 在 RTX 3090 上只占 13.3 GiB 显存并跑到约 100 tok/s,其做法是把常用专家留在 GPU、其余放内存并异步搬运,与计算重叠。

r/LocalLLaMA

OpenEnv 改由多家公司共同管理,包括 Hugging Face、PyTorch、Prime Intellect 等

OpenEnv 这个用来给 AI 智能体创建终端、浏览器等执行环境的工具,现在不再由单一团队控制,而是转交给一个委员会来协调。初始成员有 9 家,包括 Meta 的 PyTorch、Unsloth、Modal、Prime Intellect、Nvidia 和 Mercor。

推荐理由:OpenEnv 从单一团队控制转为由 PyTorch、Unsloth、Modal 等 9 家机构组成的委员会协调,做智能体训练的人可以据此判断执行环境的治理归属。

AI HOT 精选

Hugging Face 把 OpenEnv 交给社区委员会管了,Meta-PyTorch、Unsloth 等都在里面

OpenEnv 是一个给 AI 智能体用的训练环境,比如模拟终端、浏览器,让模型在里面干活并学习。Hugging Face 宣布这个项目不再自己说了算,改由一个委员会来协调,首批成员包括 Meta-PyTorch、Reflection、Unsloth、Modal、Prime Intellect、Nvidia 等。

推荐理由:Hugging Face 将 OpenEnv 智能体训练环境的协调权交给社区委员会,首批成员包括 Meta-PyTorch、Unsloth、Nvidia 等,项目治理从单一公司主导转为多方参与。

6月7日星期日

量子位 · 公众号

京东开源 JoyAI-Echo,5 分钟 AI 长视频不崩,推理速度提了 7.5 倍

京东放出了一个叫 JoyAI-Echo 的开源框架,专门解决 AI 生成 5 分钟长视频时画面容易崩、前后不一致的问题。它用跨模态记忆模块把视频里的角色、场景信息存下来,保证长镜头里不会突然变脸或换衣服。训练上用了 DMD 后训练技术,推理速度比原来快了大概 7.5 倍,生成一段视频的成本和时间都压下来了。

推荐理由:京东开源 JoyAI-Echo 框架,用跨模态记忆模块解决 5 分钟长视频角色与场景前后不一致的问题,推理速度提升约 7.5 倍。

6月6日星期六

r/LocalLLaMA

开源模型这周炸了:25+ 个开放权重模型一口气放出,覆盖文本、图像、语音

Victor M 在 X 上整理了一份清单,过去一周有超过 25 个开放权重的模型发布,几乎覆盖了所有模态。其中最扎眼的是 NVIDIA 的 Nemotron 3 Ultra,一个 550B 参数的混合架构(Mamba-MoE),每次推理只激活 55B 参数,上下文窗口能塞进 100 万个 token。

推荐理由:过去一周开放权重模型发布超过 25 个,覆盖文本、图像、语音等模态,其中 NVIDIA 的 Nemotron 3 Ultra 以 550B 参数、55B 激活和 100 万 token 上下文,展示了混合架构的当前规模。

机器之心 · 公众号

视频AI能一次生成5分钟了,京东开源JoyAI-Echo,告别抽卡式出片

京东放出了JoyAI-Echo,一个能一口气生成最长5分钟视频加音频的框架,而且全量开源。它主打跨镜头画面和声音的一致性,支持局部重绘,用8步DMD蒸馏来提速,最高能输出1472×2560分辨率的片子。不过原文因为微信环境验证没过去,具体效果和实测数据暂时看不到,这点先别太激动。

推荐理由:京东开源JoyAI-Echo,可一次生成最长5分钟带音频的视频,并支持跨镜头画面与声音一致性,为长视频生成提供了一条可复用的开源路径。

r/LocalLLaMA

RedNote 开源 dots.tts:一个 20 亿参数的语音合成模型,支持 48kHz 和零样本声音克隆

RedNote 放出了一个叫 dots.tts 的语音合成模型,参数量 20 亿,用 Apache 2.0 协议开源。它走的是全连续架构,文字直接映射到语音,跳过了传统的音素流水线,合成采样率能到 48kHz。零样本声音克隆也支持,给一段参考音频就能模仿说话。

推荐理由:RedNote 以 Apache 2.0 协议开源 20 亿参数的 dots.tts,采用文字直接映射语音的全连续架构,支持 48kHz 输出和零样本声音克隆。

6月5日星期五

AI HOT 精选

腾讯混元和人大开源了一个叫 PlanningBench 的评估框架,专门测大模型做规划的能力

这个框架由腾讯混元跟人大高瓴人工智能学院一起放出,代码和论文都公开了。它塞了 30 多个真实场景的规划任务,不是让模型光说不练,而是看它能不能把一件事拆成可执行的步骤。框架自带自动验证,跑完就能知道模型规划靠不靠谱,还支持拿这些任务去训练模型。资源挂在 arXiv、GitHub 和 HuggingFace 上,正文没披露具体任务类型和验证通过率的数据。

推荐理由:腾讯混元与人大高瓴人工智能学院开源 PlanningBench,用 30 多个真实场景任务检验模型能否把一件事拆成可执行步骤,并自带自动验证。

Hacker News 首页

Anthropic 开源了一套 AI 挖漏洞的工具包,把威胁建模、扫描、修补丁串成一条自动流水线

Anthropic 在 GitHub 上放出了一个叫 defending-code-reference-harness 的开源项目,把威胁建模、代码扫描、漏洞分类和打补丁这些安全活儿打包成一套可定制的自动化流程。项目页面上说你可以把它当成一个“自主扫描引擎”来用,但正文没披露这套东西在真实漏洞挖掘上的准确率、误报率,也没给出跟现有扫描工具的对比数据。

推荐理由:Anthropic 在 GitHub 开源 defending-code-reference-harness,把威胁建模、代码扫描、漏洞分类和打补丁串成一条可定制的自动化流程,展示 AI 参与漏洞挖掘的工程化路径。

6月4日星期四

r/LocalLLaMA

华为开源 KVarN:KV 缓存压缩 3 到 5 倍,推理反而更快,不是减速

华为放出了一个叫 KVarN 的 KV 缓存量化方法,Apache 2.0 协议,已经能通过一个开关直接跑在 vLLM 上。它能把存上下文的那块显存压到原来的 1/3 到 1/5,吞吐量最高比 FP16 还快 40%。和之前的 TurboQuant 不一样,它在推理任务上不会崩。不需要改模型、不用重新训练、也不用校准数据。

推荐理由:华为开源 KVarN 量化方法,把 KV 缓存显存压到三分之一至五分之一,吞吐量最高比 FP16 快四成,且在推理任务上不崩,可通过一个开关接入 vLLM。

新智元 · 公众号

MiniMax M3 在开源模型榜冲上第一,硅谷 CEO 深夜转发,但中文社区对实际表现吵起来了

MiniMax 的新模型 M3 在第三方评测平台 Artificial Analysis 的开源榜单上排到了第一。文章说它支持一次性处理 100 万 token 的上下文,预训练用了百 T 级别的数据,并承诺在 10 天内开源模型权重和完整技术报告。

推荐理由:MiniMax M3 在 Artificial Analysis 开源榜单排到第一,支持 100 万 token 上下文、百 T 级预训练数据,并承诺 10 天内开源权重与技术报告。

AI HOT 精选

OpenJarvis:斯坦福开源了一个本地优先的个人 AI 框架,把推理、工具、记忆都塞进设备里跑

斯坦福的研究人员放出了 OpenJarvis,一个开源的本地优先框架,目标是让个人 AI 助手直接在手机或电脑上跑,不用把数据传到云端。他们把个人 AI 拆成了五个基础模块:推理、工具调用、记忆、学习,还有一个叫“自我”的模块来协调这些能力。

推荐理由:斯坦福研究人员开源 OpenJarvis,将推理、工具调用、记忆、学习与自我协调五个模块放入手机或电脑本地运行,数据不必上传云端。

r/LocalLLaMA

有人写了个编译器,把 Python 代码转成更省 token 的格式喂给模型

作者开源了一个叫 Vulpine 的编译器,能把 Python 源码转成一种专门给代码模型看的紧凑表示。在约 1.3 万个留出测试文件上,token 用量平均减少了 14%,而且 99.8% 的情况下能无损还原回原本的抽象语法树结构。代码已经挂在 GitHub 上。不过正文没披露具体测试了哪些模型、省下的 token 对生成质量有没有影响,这点先别太激动。

推荐理由:作者开源的 Vulpine 编译器把 Python 源码转成面向代码模型的紧凑表示,在约 1.3 万个留出测试文件上平均省下 14% 的 token,且 99.8% 的情况能无损还原抽象语法树。

6月3日星期三

AI HOT 精选

Google DeepMind 在 GitHub 开源了一个给科研智能体用的工具包,叫 Science Skills

这个工具包专门用来搭科学发现场景里的自主智能体,让模型能跑科研流程。官方说它有两个好处:一是针对科学任务做了基础能力封装,二是 token 效率更高,也就是调用大模型时可能更省 token、更省钱。不过正文没披露开源协议、具体跑分数据,也没给出 token 节省量的数字,所以实际能省多少、效果怎么样,还得自己跑跑看。

推荐理由:Google DeepMind 在 GitHub 开源 Science Skills 工具包,用于搭建科学发现场景的自主智能体,官方称其封装了科学任务基础能力并提升 token 效率。

6月2日星期二

AI HOT 精选

为了省120刀,我把电脑清理做成了开源AI工具

作者用Codex扫了自己的MacBook,发现B站缓存等一堆可删文件,激进方案能清出超140G。他干脆把清理逻辑做成一个开源skill,Mac和Windows都能用。工具会扫描文件生成可交互的HTML报告,用绿黄红三色标出哪些能放心删、哪些要人工判断、哪些千万别动,还带安全执行按钮。

推荐理由:作者把自用的电脑清理逻辑做成开源 skill,扫描后生成绿黄红三色标注的 HTML 报告,并附安全执行按钮,Mac 和 Windows 都能用。

新智元 · 公众号

中科院开源 MobileGym:在浏览器里搭了个手机训练场,微信、原神都能跑

中科院自动化所开源了一个叫 MobileGym 的移动端智能体训练环境,直接在浏览器里模拟安卓手机。它覆盖了 28 款常用 App,包括微信、原神、淘宝这些,每个实例只占 400MB 左右,冷启动 3 秒就能跑起来。环境会把手机界面状态转成结构化的 JSON 快照,方便模型理解当前屏幕有什么、能点哪里,任务验证也是程序化自动完成的,不用人工盯着看。

推荐理由:中科院自动化所开源 MobileGym,在浏览器里模拟安卓手机并覆盖 28 款常用 App,单实例约 400MB、冷启动 3 秒,把界面状态转成 JSON 快照供模型理解。