PostHog 开源 Jeeves：用推理改进 Jev 类决策模型
PostHog 在 GitHub 开源 Jeeves 项目，通过推理能力改进 Jev 类决策模型。仓库包含 drafter、inference、loader、model、prep、sdk 等模块，并附有 calibrate.py、checkpoint.py 等脚本，采用 master 单分支，已获 49 星、7 次 fork。
#开源/仓库
#开源/仓库
今日 0 条昨天 · 9月29日星期二
Jeff：在家用消费级显卡训的 0.8B 决策模型，推理只要 30 毫秒
Jeff 是一组从 Qwen3.5 和 Gemma 4 微调出来的 0.8B 参数小模型，专门做零样本分类——也就是不给例子直接判断类别。亮点是作者说在家用普通显卡上就能训练，推理一次只要 30 毫秒左右，延迟很低，适合塞进实时决策流程。模型兼容 Jev 格式，GitHub 上放了代码和权重。不过正文没披露用了多大训练集、在什么基准上测过，所以实际效果...
9月25日星期五
LaunchVideo 用 Opus 5.5 把链接或一句话变成产品解说视频，不用视频生成模型
LaunchVideo 的做法是：你给它一个网址或一段文字描述，Opus 5.5 直接写 HTML、CSS 和动画脚本，然后一个无头 Chromium 微虚拟机逐帧渲染成 1080p 30fps 的 MP4。整个过程没有用到视频生成模型，靠的是把页面里的时钟（requestAnimationFrame、Date、CSS 动画等）替换成虚拟时钟，保证每一...
推荐理由：把 Opus 5.5 的写代码能力包装成“贴链接出视频”的工具，管线解释得清楚，例子也看得见，H 和 K 都打中了。但产品本身还轻，R 偏弱，分数刚好卡在 featured 门槛上。
9月23日星期三
Jevper：给任意 OpenAI 兼容模型套个壳，让它输出分类概率和置信度
Jevper 是一个轻量封装，让任何兼容 OpenAI 接口的模型输出分类概率和置信度分数，而不是直接吐文字。它复刻了 Jev 的“TypeSafe System One”接口，把生成模型当分类器用。项目没给基准测试或生产案例，但思路很直接：用概率做决策，而不是靠模型自己写答案。如果你需要模型在几个固定类别里做选择，并且想知道它有多确定，这个工具能省掉...
蚂蚁开源两个6B模型，一个做设计图生成，一个做图层编辑
蚂蚁开源了 Ming-Image-0.1-Design 系列，包含两个 6B 参数模型，分别负责设计图生成和图层编辑。6B 参数属于中等规模，比动辄几十B的大模型更轻量，部署成本低。但原文页面被拦截，正文没披露模型架构、训练数据、评测指标，也没说跟现有方案比效果如何。目前能确认的是：开源、两个模型、覆盖从生成到编辑的流程。具体能不能打，得等代码和权重放...
9月22日星期二
oMLX 作者加入 Hugging Face，专攻苹果芯片上的大模型推理
oMLX 的作者 Jun Kim 加入 Hugging Face，专职支持 MLX 社区。oMLX 是苹果 MLX 框架的扩展库，能让大模型在 Mac 上跑得更高效。正文没披露具体合作细节或后续计划。
9月21日星期一
Kev：一个超小型的决策模型，跑在Qwen3.5上，类似Jev
Jared Palmer 开源了 Kev，一组基于 Qwen3.5 的小型决策模型，思路跟 Jev 差不多。正文没披露参数量、训练数据和跑分，社区还在观望（29 票 14 条评论）。如果真能做到小模型快速做决策，成本会很低，但验证还不够，先别太激动。
9月20日星期日
阶跃星辰旗舰模型 Step 5 Preview 发布，10月15日开源权重
阶跃星辰发布了旗舰模型 Step 5 Preview，并计划在10月15日开源模型权重。不过原文页面被拦截，正文没披露模型参数量、性能指标或开源范围，所以目前能确认的只有发布时间和开源日期。开源权重意味着开发者可以下载模型自己跑，不用走API，这对想微调或部署私有模型的团队是个好消息。但具体效果如何、能不能打，得等开源后实测才知道。
9月18日星期五
Swift Qwen 3.8 27B 下载破10万，登顶 HuggingFace 微调榜
Swift 团队基于 Qwen 3.8 微调的 27B 模型在 HuggingFace 上累计下载超过10万次，目前是微调类第一、全模型第九。Reddit 原帖正文被屏蔽，没披露训练数据、评测指标或具体用例，所以不清楚它到底强在哪、适合干什么。能冲上榜首说明社区认可度不低，但缺细节，先别急着下结论。
9月12日星期六
把2B小模型微调成微信群聊风格，全套代码开源了
有人在Reddit发帖，说自己用WhatsApp群聊记录微调了一个2B参数的小模型，并且把完整流程做成了GitHub cookbook开源。正文被Reddit屏蔽了，所以看不到基座模型、训练成本、效果评测这些关键信息。2B模型的好处是本地跑得动，适合拿自己的聊天记录训练一个模仿群聊口吻的玩具。如果你也想试试，这个cookbook是个不错的起点，但具体花...
9月10日星期四
DeepSeek 发了个 V4.1 Flash：跑分超自家 Pro，API 降价，模型还开源了
DeepSeek 今天放出了 V4.1 Flash，一个总参数 552B 的 MoE 模型，但实际干活时输入只激活 8B、输出激活 16B 参数，所以推理成本压得很低。它用了新的非对称编码器-解码器架构，跑分直接超过了自家的 V4 Pro。KV 缓存也大幅瘦身，相比上代 HBM 需求降到 1/4、SSD 需求降到 1/8，这对经常要缓存命中的 agen...
推荐理由：DeepSeek 旗舰模型发布，架构有变化，跑分和成本数字都给了硬信息，按惯例对标美国大厂发布处理。HKR 三项全中：超 V4 Pro 的跑分和缓存瘦身都是硬货。没给 P1 是因为目前只有标题和摘要，正文细节还没看到。
9月7日星期一
MathKernel：给大模型配一个会自证清白的数学内核
Staatsgeheim 开源了一个叫 MathKernel 的数学内核，专门解决大模型算不准数学题的问题。它同时跑五套引擎——符号计算、精确有理数、形式化验证、带误差区间的数值计算和普通数值计算——每算一次都附上“信任标签”和完整的计算溯源，告诉你结果是怎么来的、靠不靠谱。项目直接做成 MCP 服务器，可以插到 Claude Desktop 这类客户...
推荐理由：五引擎并行加信任标签的设计有想法，MCP 形态让接入成本很低，对做 agent 工具链的开发者是个实在东西。不过目前是个人开源项目，正文没给出任何基准测试数据，效果到底怎么样还不好说，这点先别太激动。
llama.cpp 新增对 Spark-X2.5 的支持，两个 1.7B 和 4B 小模型，原生支持 100 万 token 上下文
llama.cpp 的 PR #27868 合并了 XHToken 的 Spark-X2.5-1.7B 和 4B 两个小模型。它们用了一种混合注意力设计——一层全局注意力加三层滑动窗口注意力——来把长文本的计算量压下来，原生支持最长 100 万 token 的上下文窗口。官方说在对话、写作、翻译、推理、写代码和让模型进业务流程干活（agent 任务）这...
9月4日星期五
Experiential Labs：开源 AI 网关，用你的流量数据训练专属模型
这是一个开源的 AI 网关，零加价，支持自带密钥（BYOK）、自托管，还能调用 1000 多个市场模型。它从你的 API 流量中学习，帮你省钱、推荐更合适的模型，最后训练出一个你完全拥有的专属模型。正文没披露这个专属模型具体怎么训练、能省多少成本，但“用流量反哺模型”这个思路值得关注。
NVIDIA 宣布收购 Hugging Face，黄仁勋说开源能让开发者、初创公司和各国自己定制 AI
NVIDIA 要买下 Hugging Face 了。黄仁勋的说法是，开源模型能加快创新扩散，让开发者、初创公司、大学甚至国家都能自己动手构建和定制 AI，同时还能提升安全与网络安全。Google CEO Sundar Pichai 在 X 上转发了这条消息并祝贺，认为这会强化开源模型生态。不过正文只有一句话，没披露收购金额、时间表和交易结构，这些关键信...
推荐理由：NVIDIA 买 Hugging Face，等于把开源模型的 GitHub 和最大的 GPU 供应商绑在一起。Sundar Pichai 公开祝贺是个跨信源的信号，说明连竞争对手都认为这会改变开源生态的格局。正文没披露金额、时间表和交易结构，这些关键信息还缺着，但战略意图很清楚：用 Hugging Face 的模型分发网络给 NVIDIA 的芯片铺路，以后从训练到部署的链条可能更顺，也可能更封闭。我会先打个折，等具体条款出来再判断对开发者到底是利好还是锁死。
9月3日星期四
MBZUAI 发布 K2 Horizon 模型舰队，最小 0.9B 模型在 AIME 2026 数学测试上跑出 48 分以上
IFM 这次放出了 K2 Horizon，一共六个模型，从 0.9B 到 375B-A23B 都有。最小的 0.9B、3.7B 和 7B 在各自尺寸里都刷到了新高度，0.9B 在 AIME 2026 数学基准上拿了超过 48 分，还带了推理和工具调用能力。36B-A4B 用了一种叫 MoVA 的新注意力机制，按每个激活参数算，性能比很多大模型都强。这次...
推荐理由：IFM 这次放出的 K2 Horizon 系列信息密度高，六个模型全开源，小尺寸模型在数学基准上刷出新分数，还引入了一个新注意力机制。没给更高分是因为 IFM 还不是 OpenAI 或 Anthropic 那个级别的实验室，市场验证还没跟上，我会先打个折。
英伟达要花近 130 亿美元买下 Hugging Face，开源模型社区以后归芯片巨头管了
英伟达同意以 129.3 亿美元收购 Hugging Face，把最大的开源模型、数据集和工具托管平台收到自己旗下。Hugging Face 2016 年成立，常被叫做“AI 界的 GitHub”，开发者在这里分享模型和协作。英伟达说会扩大平台规模、加强基础设施、让更多人用上 AI。不过正文没披露交易什么时候完成、需要哪些监管审批，这些关键信息都还缺着。
推荐理由：英伟达花近 130 亿美元买下 Hugging Face，直接动了开源模型托管的基础设施层。标题够悬念，价格和平台归属都是新信息，模型开发者和基础设施圈都会聊起来。不过正文没写交割时间和监管审批，这些关键缺口让判断得先打个折，但整体还是值得放在首页。
用 100 步 GRPO 微调 3.5 亿参数模型，结构化输出合规率从 22.6% 提到 29.7%
Hugging Face 和 Liquid AI 发了一份实操指南，拿 LFM2.5-350M 这个小模型做实验。他们用 TRL 库跑 GRPO（一种按组比较、挑好回答来优化的强化学习方法），只用了 500 条样本、训练 100 步，在免费 Colab GPU 上就能跑完。在 IFStruct 结构化输出基准上，模型按指定格式返回有效结果的比例从 22...
推荐理由：一份实操向的教程，数字具体、方法可复现，H 和 K 都站得住。但内容只对微调工程师有用，缺乏破圈潜力，R 不成立。放在 featured 档给 72 分合理。
8月29日星期六
智谱把 GLM-5.3 模型权重开源了，擅长写代码和做网络安全
智谱放出了 GLM-5.3 的模型权重，支持本地部署和商用。这个模型在 AA 综合智能指数上拿了 60 分，跟 Claude Fable 5、GPT-5.6 Sol 这些闭源旗舰差不多，和 Kimi K3 并列开源第一。它主要强在复杂编程、防御性网络安全和长链条任务上。因为网络安全能力太强，智谱在发布前专门多花了两周做安全评估。另外，年收入超过 100...
推荐理由：智谱把 GLM-5.3 的权重直接开源了，允许本地部署和商用。模型在 AA 综合智能指数上拿了 60 分，跟 Claude Fable 5、GPT-5.6 Sol 这些闭源旗舰打平，和 Kimi K3 并列开源第一。它主攻复杂编程、防御性网络安全和长链条任务，因为网安能力太强，发布前专门多花了两周做安全评估。正文没提模型参数量和具体推理成本，这点先别太激动。年收入超过 100 万的商用需要单独谈授权，小团队和个人开发者可以放心用。
8月26日星期三
智谱开源GLM-5.3-Flash：320B原生多模态模型，能力对标Claude Opus 4.8，价格只要四十分之一
智谱上线并开源了GLM-5.3-Flash，一个总参数320B、激活参数18B的原生多模态模型。它在AA综合智能指数上拿了57分，和Anthropic的Claude Opus 4.8持平，编程表现也相当，但API定价只有Opus 4.8的四十分之一。模型用了稀疏注意力和线性注意力的混合架构，长文本下的注意力计算量比GLM-5.3低了3倍多。它还能在写代...
推荐理由：智谱开源了GLM-5.3-Flash，一个320B总参数、18B激活参数的原生多模态模型。它在AA综合智能指数上拿了57分，跟Anthropic的Claude Opus 4.8持平，编程表现也相当，但API定价只有后者的四十分之一。我会先打个折：AA指数是智谱自己推的评测体系，外部独立验证还没看到，这点先别太激动。不过模型用了稀疏注意力和线性注意力的混合架构，长文本下注意力计算量比GLM-5.3低了3倍多，这个技术点有单独的技术博客支撑，不是空口说白话。另外它跑在国产芯片上，对国内做私有化部署和成本敏感型应用的团队来说，是个能直接上手试的选项。综合...
8月25日星期二
Qwen 明天开源 Qwen3.8-Flash-Next：总参数 125B、激活 6B 的 MoE 多模态模型
Qwen 在 ModelScope 上预告了 Qwen3.8-Flash-Next，一个基于下一代 Qwen4 架构的多模态 MoE 模型，总参数 125B，每次推理只激活约 6B 参数。这次提前放出来是为了让社区先看看 Qwen4 的设计思路。明天（2026-08-26 15:00 UTC）正式开源，会同时放出 FP8 版本。正文没披露跑分、推理速度...
推荐理由：Qwen 提前放出了 Qwen4 架构的预告，125B 总参、6B 激活的 MoE 设计是实打实的新信息，在国内开源圈关注度很高。扣分是因为明天才正式开源，现在没跑分、没推理速度数据，我会先打个折——等明天 FP8 版本放出来再看实际表现。
8月20日星期四
用开源模型给 27 美元的 PineTime 手表写了个卡西欧风格的表盘
Mike Kasberg 翻出抽屉里吃灰两年的 PineTime 手表，用 OpenCode 搭配 Kimi K3、K2.6 和 DeepSeek v4 等开源模型，照着照片复刻了一个卡西欧风格的表盘。他先在 InfiniSim 模拟器里跑通编译，但模型第一版只是猜着放文字位置，元素全叠在一起没法看。于是他换成逐个元素给具体反馈、修好一个再修下一个。后...
推荐理由：这是一篇第一人称的动手实验，调试细节真实，不是教程汇总也不是软文。H 和 K 都站得住，但受众窄、缺少跨源讨论让 R 起不来，刚好卡在 featured 的门槛上。
8月16日星期日
Google 开源 DiffusionGemma：把 Gemma 4 改成扩散模型，解码飙到 1456 tok/s，但复杂推理掉分明显
Google 把训练好的 Gemma 4 26B-A4B 模型权重直接转成了离散多项式扩散模型，并在 Hugging Face 上开源。它不再从左到右逐个 token 写，而是在 256 个 token 的“画布”里通过多轮去噪并行生成。在单张 H100、FP8、单请求的纯解码测试中，速度达到每秒 1456 个 token，是原自回归模型的 7 倍多，...
推荐理由：Google 把训好的 Gemma 4 权重直接转成扩散模型开源了，不是从头训的，这点挺特别。它不再一个字一个字往外蹦，而是在 256 个 token 的“画布”里并行去噪生成，单张 H100 上纯解码跑到每秒 1456 个 token，是原版自回归模型的 7 倍多。代价是数学能力掉了一截，AIME 从 88.3 降到 69.1，正文没细说其他 benchmark 的跌幅，但至少给了推理工程师一个能算账的参考点。我会先打个折：这还只是单请求、FP8 的测试，真实并发和长文本下的表现还没看到，别急着下结论说扩散模型要替代自回归。
四年了，我还是不信大语言模型能写好正经软件
Joshua Barretto 的开源库被 FAANG 公司直接依赖，但他至今不用大语言模型做任何在乎的事。他的判断很直接：四年过去，软件没变快、没变便宜、也没更安全，只堆出一堆没人敢用的演示垃圾。1.5 万亿美元砸下去，能证明顶层生产力提升的独立研究依然缺位，现有研究要么盯着“代码行数”这种跑偏的指标，要么样本小到没法下结论。他收到的 AI 生成的 ...
推荐理由：作者的身份（被 FAANG 依赖的开源维护者）和具体的论据让这篇个人评论比泛泛的怀疑论更有说服力。三条都踩中了，但因为是个人观点而非硬新闻，分数放在 78-84 这个区间的低位。
8月15日星期六
MOSS-VL：把实时互动当核心能力来做的开源视觉模型，边看边说
复旦团队开源了一个叫 MOSS-VL 的视觉语言模型家族，最大的不同是它把“实时互动”——也就是模型一边接收画面一边说话——当作一等能力来设计。它用了一种叫门控交叉注意力的机制，把视觉信息放在解码序列外面处理，所以生成第一个字的延迟比同底座的 Qwen3-VL-8B 低了 2.8 到 5.1 倍，画面信息越多优势越明显。实时版 MOSS-VL-Real...
推荐理由：复旦开源了一个把实时交互当一等能力的视觉语言模型家族，不是事后加流式输出，而是从架构上就为低延迟设计。门控交叉注意力让视觉信息不进解码序列，首字延迟比 Qwen3-VL-8B 低 2.8 到 5.1 倍，帧数越多优势越大，这点对机器人、直播这类场景挺实在。我会先打个折：开源 VLM 现在不缺选手，MOSS-VL 的领先主要在工程实现上，报告里没看到它在通用多模态榜单上把同尺寸模型甩开，所以影响力偏垂直。H 和 K 都站得住，R 弱一些，整体给 featured 没问题。
8月14日星期五
通义千问开源 Qwen3.8 系列：27B 稠密模型参数更少但跑分反超，2.4T 混合专家模型权重也放出来了
Qwen3.8-27B 是一个原生就能看图、读文档的多模态稠密模型，参数量只有 27B，但基准测试全面超过了上一代 Qwen3.7-Plus。它原生支持 262K 上下文窗口，用 YaRN 技术可以拉到 1M tokens，等于一次能塞进三体三部曲的量。许可证是 Apache 2.0，商用友好。同时放出的还有 Max 版本 Qwen3.8-2.4T-A...
推荐理由：阿里通义千问放出 Qwen3.8 系列：一个 27B 的稠密多模态模型，基准测试压过了上一代 Qwen3.7-Plus，原生 262K 上下文，Apache 2.0 许可证，还附带一个 2.4T 参数的 MoE Max 版本。这是国内开源大模型当天的重要发布，必须收录。分数没给到 90 以上，是因为正文没披露具体评测细节和实际推理成本，我会先打个折，等看到实测数据再调整。
GLM-5.3：只靠后期训练，把开源模型的编程和漏洞利用能力拉到一线
GLM-5.3 和上一代用的是同一个基座模型，所有提升全来自后期训练。编程能力在内部 Z.ai Code Bench 上比 5.2 高了 50%，Terminal Bench 3.0 从 4.6 分跳到 28.3 分。更意外的是漏洞利用能力涨得比预期快：ExploitGym 2 小时得分从 29 涨到 105，6 小时从 39 涨到 130。团队把原因...
推荐理由：GLM-5.3 和上一代用同一个基座，所有提升全靠后期训练。编程分涨了50%，终端操作从基本不会（4.6分）变成能干活（28.3分）。更扎眼的是漏洞利用：2小时得分从29跳到105，6小时从39跳到130。团队自己说这块能力涨得比预期快，我会先打个折——内部评测的绝对值不能直接跟外部基准比，但涨幅摆在那里。正文没披露后期训练具体用了什么方法和数据，这点信息缺口挺大。
8月13日星期四
阿里首次把 Qwen-Max 级别的模型权重放出来了，总参数 2.4 万亿，每次只激活 950 亿
阿里 Qwen 团队开源了 Qwen3.8-2.4T-A95B，这是他们第一次把云端最强模型级别的权重直接公开。模型用了混合专家架构，总共 2.4 万亿参数，但每次计算只激活其中的 950 亿，所以跑起来比同体量的稠密模型省算力。它原生支持 26 万多 token 的上下文，能一口气处理整本小说，还能扩展到 101 万 token。训练时加入了多 to...
推荐理由：阿里第一次把云端旗舰模型完整开源，2.4T MoE、激活95B、原生256K上下文，这几个指标放在一起分量很重。三个维度都踩中了：头部大厂罕见动作、技术上有具体新东西、对国内开发者生态有直接拉动。没给更高分是因为目前只有公告，还没看到第三方实测跑分和实际部署反馈，我会先打个折，等社区验证了再往上调。
8月12日星期三
Liquid AI 开源 LFM2.5-VL-3B，一个能在本地跑的视觉语言模型，主打屏幕理解和工具调用
Liquid AI 放出了 LFM2.5-VL-3B，一个 30 亿参数的视觉语言模型，可以直接在你自己的电脑或手机上跑。它不搞长链条推理，直接给答案，适合需要实时响应的场景。这次主要升级了四个能力：能看懂各种设备的屏幕界面、用自然语言圈出图片里的物体、同时理解多张图片，以及大幅强化了工具调用（不管带不带图片都能用）。官方给了跑分对比和 CPU/GPU...
推荐理由：Liquid AI 发了一个30亿参数的视觉模型，主打本地推理和实时响应，给了四个明确的能力升级和跑分对比。H 和 K 都踩中了，但品牌号召力在视觉领域偏弱，R 没起来，分数刚好卡在 featured 门槛上。
Nvidia 发布 Nemotron 3.5 Lightning 和 NeMo Switchyard：一个 300 亿参数的小模型，专跑多智能体系统里的专...
Nvidia 给 Nemotron 3 系列加了个新模型 Nemotron 3.5 Lightning，300 亿参数，用的是混合专家架构（MoE，把模型拆成多个小专家，每次只激活一部分，省算力）。它不负责统筹全局，而是在多智能体系统里干代码审查、安全告警监控这类专项高并发的活。官方说输出速度比同级模型快 4 倍，跑完一个智能体任务整体快 30%。模型...
推荐理由：Nvidia 这次没走通用大模型的路子，而是发了个 30B 的 MoE 模型 Nemotron 3.5 Lightning，定位是多智能体系统里的专项工人，比如做代码审查、监控安全告警。官方说输出速度比同级模型快 4 倍，跑完一个智能体任务整体快 30%，还开源了调度工具 NeMo Switchyard。我会先打个折——这些数字都来自 Nvidia 自己的博客，没有第三方实测，而且 Nvidia 的模型生态在开发者里的实际采用率远不如几家头部 lab。但“给智能体系统做专项加速”这个思路本身值得关注，对正在搭多智能体工作流的人是个可参考的选项。
8月10日星期一
扎克伯格点名 OpenAI 和 Google，说封闭模型玩不过开源，Meta 下一代 Llama 继续全开源
扎克伯格在内部会议上直接点名 OpenAI 和 Google，认为长期来看开源模型会赢。他确认 Meta 的下一代 Llama 会保持完全开源，同时把 AI 团队打散并入产品部门，想加快发布节奏。具体发布时间和模型参数都没说。
推荐理由：扎克伯格内部讲话直接点名 OpenAI 和 Google，确认 Llama 会继续完全开源，还透露 AI 团队正被并入产品组。冲突感、组织变动和明确立场，三条都占全了。不过具体发布时间和模型参数都没说，所以我会先打个折，给到 78 分。
SGLang 第一时间适配 Meta 的本地智能体模型 Muse Glimmer，单卡 RTX 5090 跑到每秒 1452 个 token
Meta 发布了 Muse Glimmer，一个 300 亿参数的多模态模型，专门为在本地硬件上跑智能体工作流设计。SGLang 推理框架在发布当天就提供了支持，并做了针对性优化。在单张 RTX 5090 显卡上，用 NVFP4 量化格式搭配 DFlash 投机解码技术，每个用户的解码速度能达到每秒 236 个 token，总吞吐量冲到每秒 1452 ...
推荐理由：Meta 发新模型本身是行业事件，但这篇文章的重点是 SGLang 的推理优化，不是模型本身。好在性能数字够硬，236 tok/s 和 1452 tok/s 这两个数让它的信息密度够上 featured。不过受众窄，只对搞本地推理的人有吸引力，所以 r 给了 false。
Meta 开源 Muse Glimmer：一个能在本地单 GPU 上跑的 30B agent 模型
Meta 把 Muse Glimmer 的权重以 Apache 2.0 协议放出来了。这是一个 30B 参数的模型，专门为常驻本地的 agent 工作流设计，小到能在 Mac 或 PC 的单张消费级显卡上跑。用 4-bit 量化能把模型压到 20 GB 以下，在 24 GB 或 32 GB 显存里还能留出空间给 KV cache 和视觉编码器。训练上，...
推荐理由：Meta 把 Muse Glimmer 的权重以 Apache 2.0 协议放出来了，一个 30B 参数、专为本地 agent 工作流设计的模型。4-bit 量化后不到 20 GB，能在单张消费级显卡上跑，还留出显存给 KV cache 和视觉编码器。定位很明确——不是通用聊天模型，而是常驻本地的 agent 引擎。我会先打个折：目前只有发布博客的信息，没有第三方跑分和实际部署反馈，所以分数没往上拉。但开源协议、显存占用和本地 agent 这个组合，对自部署和隐私敏感场景确实有吸引力。
NVIDIA 开源 NemotronLabs VoiceChat 11B：一个模型搞定语音对话，抢话延迟约 450 毫秒，还能边聊边调工具
NVIDIA 把 NemotronLabs VoiceChat 11B 的权重和代码都公开了。这是一个 110 亿参数、端到端的语音模型，不再走传统的“语音识别转文字、大模型思考、文字转语音”流水线，而是把听和说塞进同一个网络里流式处理。实测抢话反应延迟是 448 毫秒，基本跟人对话的节奏差不多。它支持全双工，也就是双方可以同时说话、随时打断，模型能实...
推荐理由：NVIDIA 这次把 NemotronLabs VoiceChat 11B 完整开源，448 毫秒的打断反应时间和全双工能力是硬指标，不是刷榜。但原文像产品发布稿，没有第三方对比测试，也没说清楚工具调用在嘈杂环境下的成功率。我会先打个折：技术方向对，实际落地效果还得等社区跑完分再看。
8月6日星期四
Prime Intellect 开源 Prime Agent：让模型自己管上下文、调工具、派子代理的编程外挂
Prime Intellect 把 Prime Agent 完整开源了，一条 curl 命令就能装。这东西本质上是个给代码模型用的外挂框架，核心做了两件事：一是把上下文当成变量、把调用子代理当成函数，让模型在一个常驻的 IPython 环境里自己写程序操作自己的记忆和工具，这样跑再久也不会弄丢之前的信息；二是允许模型在运行过程中随时增删改自己的提示词、...
推荐理由：Prime Intellect 开源了一个代码代理框架，架构上有个明确的钩子：让模型在常驻 IPython 环境里把自己的记忆和提示词当成可编程的东西来操作。H 和 K 都打中了——安装门槛低、设计思路清晰，对 agent 开发者是实打实的参考。R 偏弱，因为 Prime Intellect 本身不是顶级实验室，身份带来的传播力有限。整体符合 featured 标准。
8月4日星期二
Soup：一个命令就能在 4GB 显存的笔记本上微调 8B 模型
Soup 把大语言模型的微调流程打包成一个命令行工具，最低只要 4GB 显存就能跑。它底层用了 QLoRA（一种省显存的微调方法）和 Unsloth 加速，支持 Llama、Mistral、Qwen 这些主流的 8B 模型。你准备好 JSONL 格式的数据集，写一个 YAML 配置文件，敲一句 `soup run` 就开始训练了。训练完还自带一个 St...
推荐理由：一个把 QLoRA 微调压到 4GB 显存、一句命令跑通的工具，实用性和知识性都到位，正好卡在 featured 门槛。但项目太新，没有社区验证或真实场景的 benchmark，争议性为零。如果后续有人贴出训练效果对比或社区开始用起来，分数会更有支撑。
Qwen 3.8 Max 跑分追平 Fable 5，权重下周开源；群里 agent 自己会下本地模型了
Qwen 3.8 Max 正式发布，2.4 万亿参数，Terminal Bench 2.1 得分 86.6，PaperBench 93.0 超过 Fable 5 的 88.8。群里有人充了 500 块的 token 额度一天就用完了，实际体感大概在 Luna 和 Terra 之间，主要优势还是便宜。下周 Qwen 3.8 Max 和 27B 模型都会开...
推荐理由：Qwen 3.8 Max 正式发布，2.4 万亿参数，PaperBench 93.0 超过 Fable 5 的 88.8，Terminal Bench 86.6，下周权重开源。群聊日报给了具体跑分和真实体感——有人充 500 块一天用完，实际能力大概在 Luna 和 Terra 之间，主要卖点是便宜。信息量足，但来源是群聊，权威性要打个折，所以没给更高分。
8月3日星期一
AirLLM 让一张 4GB 显卡就能跑 70B 大模型
这个开源库把 Llama 3 70B 这样的大模型按层拆开，每次只加载一层到显存里算，算完再换下一层，所以一张只有 4GB 显存的普通显卡也能跑推理，不用多卡并联。它支持 Llama、Mistral、ChatGLM 等主流架构，直接兼容 HuggingFace 上的模型。代价是速度会慢不少，但把本地跑大模型的硬件门槛压到了笔记本级别。
推荐理由：把 70B 模型拆成一层一层轮流塞进显存，不是新思路，但做成开箱即用的库确实省事。正文没给具体延迟数据，速度会打折这点得心里有数，所以分数没往上拉。
Qwen3.8-Max 发布：2.4 万亿参数，开源权重下周放出，主打能自己干完几天活的编码和协作能力
Qwen 发布了 Qwen3.8-Max，一个总参数 2.4 万亿、每次推理激活 95B 的模型，开源权重下周放出。官方给了三个完全没人类插手的长期任务来展示它的能力：第一个是 16 天自主编码，从零搭建了一个能自我进化的命令行工具项目，产生了 265 次提交和 127 个 PR；第二个是约 5 天的论文复现与改进，它从零写了 7600 行代码，跑了 ...
推荐理由：Qwen3.8-Max 的看点不在参数大，而在开源+长期自主任务验证。2.4T 总参数、95B 激活，下周放权重，这本身就很炸。更关键的是官方用三个零人类干预的任务代替了常规跑分：16 天自主编程产出 265 次提交和 127 个 PR，5 天论文复现写出 7600 行代码。这种验证方式比刷榜更接近真实开发场景，也说明模型在长链条 agent 任务上确实能跑通。我会先打个折——权重还没放，第三方复现和实际落地效果要等下周再看。但如果是真的，这对开源社区和闭源厂商的定价逻辑都是不小的冲击。
8月1日星期六
DeepSeek V4-Flash 0731 发布：不改模型结构，纯靠训练后优化，把智能体能力拉到接近 GPT-5.6，成本还低了六成
DeepSeek 放出了 V4-Flash 0731 版本，模型大小和结构没变，还是 284B 总参数、13B 活跃参数、100 万上下文窗口。这次更新全靠训练后优化，没有动预训练。最直观的变化是 Terminal-Bench 分数从 56.9 跳到 82.7，其他智能体相关的跑分也全面上涨。API 定价是输入每百万 token 0.14 美元、输出 ...
推荐理由：这条消息的核心看点很集中：DeepSeek V4-Flash 0731 没动预训练、没改结构，纯靠后训练把 Terminal-Bench 拉高 25.8 分，其他智能体跑分也全面上涨。对从业者来说，这说明后训练在提升模型实际干活能力上的空间比很多人想的大。定价和开源权重让它在 GPT-5.6 降价后依然有竞争力。不过原文是付费 newsletter 的汇总，不是一手发布公告，标题自己也说'今天没啥大事'，所以分数没给到 85 以上。