阿里千问 Qwen 系列的开源发布与迭代：从旗舰模型到端侧小模型的全谱系动态。
NVIDIA 在 Computex 上发了台叫 RTX Spark 的 Windows 电脑，专门在本地跑 AI 智能体。配置给得挺足：1 petaflops AI 算力、128GB 统一内存，意思是大模型不用来回倒腾显存。安全方面，他们和微软合作搞了个 OpenShell 运行时，用 Windows 新的安全接口把智能体锁在设备本地跑，数据不出机。性...
推荐理由：HKR 三项都踩中了：NVIDIA 把 RTX Spark 定位成本地智能体机器，给了 1 petaflops、128GB 统一内存和 llama.cpp 上 Qwen 27B 吞吐最高 2 倍的硬数字。因为是厂商博客发布，我会先打个折，分数落在 78–84 区间合理。
Qwen 发布了 Qwen3.7-Plus，把视觉理解和语言能力塞进同一个模型里，让它能直接看懂屏幕、操作手机 App、根据截图写前端代码，还能在命令行和图形界面之间来回切换干活。在 Terminal Bench 2.0 终端任务上拿了 70.3 分，比 Opus 4.6 Max 和 DeepSeek-V4-Pro Max 都高；在 Deep-Plan...
推荐理由：我会先打个折：正文只给了功能清单，没给任何硬指标。7 类能力听着挺全，聊天、看图、读文档、搜网页、调工具都塞进去了，但没参数、没价格、没上线日期，等于只看了个目录。这点先别太激动。不过 Qwen 这条线每次更新都会牵动国内从业者的注意力，尤其是把多模态和智能体绑在一起推，说明他们想在应用层抢身位。信息虽然薄，但话题本身够热，放在 featured 里提醒大家盯后续是合理的。
现在给 Agent 塞一堆工具，它经常不知道该点哪个。复旦和通义实验室提出了一套叫 ToolCUA 的训练方法，核心是用约 4000 个合成工具和 18 万步的“屏幕操作+工具调用”交叉轨迹来训练模型。他们训出来的 ToolCUA-8B 在 OSWorld-MCP 基准上跑到了 46.85% 的准确率。不过正文因为微信环境验证没抓到，具体训练细节和对比...
推荐理由：这篇文章抓了一个实际工程里的矛盾：工具越多，Agent 越不会选。我会先打个折，46.85% 的准确率不算高，但考虑到是 4k 工具的环境，这个数字说明问题确实难。18 万步合成轨迹是亮点，意味着训练数据不用全人工标，成本上友好一些。正文没披露推理延迟和实际部署的资源消耗，这点先别太激动。整体是一篇有痛点的研究发布，不是大模型或产品级发布，所以放在 featured 里合适。
作者晒了一台自组的本地大模型服务器，总花费 6406.45 美元，核心配置是 4 张 AMD MI100 显卡，主要跑 Qwen3.6 27B 模型。这台机器每天处理约 2040 万个输入 token 和 132 万个输出 token。他拿 OpenRouter 的 API 价格算了一笔账：第一年本地总成本（含电费）是 2992.72 美元，而调用同等...
推荐理由：这是一篇个人实测帖，不是厂商通稿。作者把账单摊开算：硬件折旧、电费、OpenRouter 比价，结论是首年能省 700 多美元。我会先打个折——这个结论绑定了他的特定负载（日处理 2000 多万 token）和二手 MI100 价格，换个人未必复现。但文章的价值不在普适性，而在把“自建推理服务器到底划不划算”这笔账算得清楚、可复现，对正在纠结买卡还是调 API 的人有参考意义。信息密度和话题性都够，放在 featured 低位合理。
人大和至知研究院放出了一个叫 ClawGym 的 Agent 训练框架，把数据、训练代码和模型权重都开源了。他们合成了 13500 条可执行的任务当训练数据，又做了 200 条任务的基准测试集。用这套东西训出来的 ClawGym-30B-A3B 模型，在他们自己的 ClawGym-Bench 上拿了 56.82 分，比 Qwen3-235B-A23B ...
推荐理由：这条消息对 Agent 开发者很实用。ClawGym 把数据、代码、模型检查点一起打包开源，不是又一个只有排行榜的项目。13.5K 合成任务规模不算大，但 200 个评测任务和 56.82 的得分给了明确的起点。我会先打个折：正文没披露合成任务的质量验证细节，也没说这个分数在实际业务场景里对应什么水平，所以别急着对标生产环境。但作为开源基建，它降低了复现和改造的门槛，值得关注。
一位老哥在 RTX PRO 6000 显卡上跑了 MTP（多 token 预测，一次猜好几个词来加速生成）的测试。他用 vLLM 跑 Gemma 4 31B 模型，开了 MTP 后速度从每秒 39.69 个 token 飙到 132.52 个，快了 3.34 倍。测试是跑 10 次、每次生成 1500 个 token 取的结果。不过帖子没提生成质量有没...
推荐理由：这是一篇第一人称的硬核速度测试，有硬件型号、模型、框架和明确的 tok/s 对比，H/K/R 三点都踩中了。我会先打个折：来源是个人博客，权威性一般，而且质量、显存这些关键指标正文没披露，所以分数压在 featured 低位是合理的。
作者 Tomasz Tunguz 分享了他用“技能提炼”让本地小模型跑个人工作流的做法。他会让 Opus 4.7、GPT-5.1 或 Gemini 3 Pro 这类顶尖模型，把处理邮件、管投资 pipeline、发博客等任务写成标准化的 SKILL.md 步骤文件，然后由本地运行的 Qwen 35B 或 Gemma 26B 一步步执行。这套系统基于 P...
推荐理由：这个技能提炼模式把大模型当教练、本地模型当执行者，思路清楚，对控制成本有实际意义。我会先打个折，因为文章没披露任何量化结果——不知道本地模型执行时会不会翻车，也不知道到底省了多少钱。这点先别太激动，等有数据再说。
用户 old-mike 在一张 RTX 3060 12GB 显卡上，用 spiritbuun 的 llama.cpp 优化分支和 mudler 的 APEX 量化模型，成功跑起了 17.3GB 的 Qwen3.6-35B-A3B。在已填充 72K 上下文时，生成速度达到 37.17 token/秒；上下文塞到 129K 时，速度仍有 28.08 tok...
推荐理由：HKR 三项都踩中了。一个 Reddit 用户用消费级显卡跑通 35B 大上下文，还给出了速度和困惑度，对本地推理圈子是实打实的参考。信息来自单篇帖子，影响范围也就在本地推理场景，所以放在 featured 而不是 P1。
英伟达放出了一个叫 LocateAnything-3B 的模型，专门做视觉语言定位——就是给张图、说句话，模型把对应物体用框标出来。它主打“并行框解码”，不像传统方法一个个框串行生成，所以速度上来了，标题直接写比 Qwen3-VL 快 10 倍。不过帖子正文只给了 Hugging Face、GitHub、Demo 和项目链接，没披露具体跑分设置和准确率...
推荐理由：我会先打个折：正文基本就是标题加三个链接，没有完整评测设置，也没给召回率、准确率这些质量指标，所以“快 10 倍”目前只能当官方说法看。但 Nvidia 开源一个 3B 的视觉定位模型，用并行框解码把速度拉起来，这件事本身对做实时视频分析、端侧部署的人挺实用。先放进 featured，等有第三方跑分再更新判断。
英伟达搞了个叫 Polar 的开源框架，专门解决一个实际问题：怎么在不重写 Codex、Claude Code 这些现成代码工具的前提下，用强化学习（GRPO，一种让模型在多步任务里根据奖励信号自己学会更优操作的训练方法）去训练它们。Polar 的做法很取巧，它不碰工具本身的执行逻辑，而是在模型和工具之间的 API 接口上做文章，把对话记录、采样结果这...
推荐理由：英伟达开源 Polar，用 GRPO 训练小模型 Qwen3.5-4B，Codex 在 SWE-Bench Verified 上从 3.8% 冲到 26.4%，这个提升幅度在代码 agent 圈子里很能打。技术细节和基准分都给得清楚，属于扎实的研究开源项，不是大模型或产品发布，所以放在 featured 档、82 分合理。
一位 Reddit 用户在一台 300 美元买的联想 Ideapad Slim 3i 上，用纯 CPU 跑 Qwen 3.5 35B 模型（Q4_K_S 量化版），推理速度达到了每秒 10.33 个 token。这台机器是 i3-1215U 处理器，板载 8GB 内存加一条 32GB DDR4 扩展内存。能跑出这个速度，主要靠几个操作：用 ik_lla...
推荐理由：我会先打个折：这是 Reddit 单帖，不是系统评测，复现性存疑。但信息本身很实在——一台 300 美元的联想轻薄本，用双核 CPU 跑 35B 参数的模型，推理速度能到每秒 10 个 token 出头。这个数字说明，如果场景对延迟要求不高，极低成本硬件也能把大模型跑起来。正文没披露上下文长度和内存占用，这点先别太激动。
Hugging Face 给 Reachy Mini 机器人配了一套纯本地运行的语音对话方案，数据不用上传云端。他们用 speech-to-speech 库搭了一条流水线：先靠 Silero VAD 检测有没有人在说话，再用 Parakeet-TDT 把语音转成文字，接着交给大模型想怎么回，最后让 Qwen3-TTS 把文字念出来。这套东西通过一个兼容...
推荐理由：HKR 三项都成立：有个清晰的本地机器人语音钩子，技术栈细节给得实在，对边缘端语音代理场景有直接吸引力。范围就限定在 Reachy Mini 的语音交互上，所以放在 featured 档。
异步强化学习训练有个很现实的问题：每一步训练器都得把整个模型发给推理引擎。一个 7B 模型用 bf16 格式就要传 14GB，换成万亿参数模型更是要传 TB 级别的数据。Hugging Face 团队发现，在两次优化步骤之间，大约 99% 的 bf16 权重其实完全没变，真正变动的部分很小。他们合入了 TRL 的一个 PR，做法是把变动的权重打包成稀疏...
推荐理由：Hugging Face 在 TRL 里合了一个增量权重同步的 PR，用稀疏 safetensors 只传变化的部分，Qwen3-0.6B 单步载荷从 1.2GB 降到 20–35MB。对经常做分布式微调的人来说，这个压缩比很实在，能省带宽、省时间。正文没提更大规模模型或跨节点同步的实测数据，所以“万亿参数”目前更像一个能力上限的表述，实际效果还得看后续验证。整体是训练基础设施层面的改进，对从业者有用，但还没到必须全员关注的程度。
南京大学 LAMDA 组和阿里智能引擎团队提出了一种叫 DAR 的方法，把 DiT 模型里固定的残差累积，换成了按时间步动态选择路径的跨层路由。在 ImageNet 256×256 上拿 SiT-XL/2 试，FID 从 9.67 降到了 7.56，而且只用原来大约九分之一的训练步数就达到了同等收敛质量。不过原文因为微信环境验证拦截，具体怎么实现路由、...
推荐理由：我会先打个折：这还是一个针对DiT架构的训练方法改进，不是新模型或产品发布，所以分数没往78以上走。但它的亮点很实在——把残差流这个大家默认的组件揪出来说是收敛瓶颈，然后用一个时间感知的路由去替代固定累加，效果是FID更好、收敛快近9倍。对正在烧钱训视觉模型的人，这个省钱省时间的信号够强，featured没问题。
Qwen3.7-Max 在 Code Arena 编程评测上拿了 1541 分，排名第二，只比 Claude 低。官方说它能连续跑 35 小时的任务、单次调用工具超过 1000 次，原本要两周的项目几小时就能搞定。不过正文没披露具体测试环境、任务类型和对比模型的详细分数，实际生产表现还得看后续验证。
推荐理由：这条消息的钩子很清晰，就是“编程第二”这个位置。给出的分数和任务时长是硬指标，虽然都来自阿里云自己的一篇发布，没有第三方交叉验证，但作为产品更新和基准测试的成绩单，信息量够、指向明确。我会先打个折——没有独立评测之前，这个“第二”更多是厂商宣称，但它的确提供了一个可被检验的标靶，值得放进 featured 让从业者自己去盯后续实测。
面壁智能联合清华和 OpenBMB 开源了一个 1B 参数的小模型 MiniCPM5-1B。它在 AA-Index（一个综合评测榜单）上的得分超过了所有参数不到 2B 的模型，甚至比 3 个月前发布的 Qwen3.5-2B 效果还好，参数量却只有后者的一半。这个模型用 INT4 量化后权重文件只有 0.5GB，可以直接在手机和浏览器里跑。它的基础模型是...
推荐理由：HKR 三项都站得住：有具体参数、量化尺寸和端侧运行条件，反差也够。不过它终究是一次小模型发布，影响力到不了旗舰模型级别，所以 featured 和 78 分是合适的。
Reddit 上一位律师分享了自己用 12 块 32GB 显存的 SXM V100 显卡搭建本地 AI 集群的进展，专门用来起草法律文书。核心模型是 Qwen3.5-122B-A10B，在 4 块 V100 上推理速度大约 50 token/秒。这套流程里还加了一个“验证器”，会在最终文件使用前自动拦截没有真实来源的引用、日期和 Bates 编号（案件...
推荐理由：这是一篇来自Reddit的第一手实验记录，不是厂商通稿。律师自己攒16块V100跑Qwen 122B做法律文书，速度约50 tok/s，还加了引用和日期验证器来拦截幻觉，信息量扎实。我会先打个折：来源是个人帖子，权威性有限，所以放在featured低段而不是p1。但HKR三项全中——故事性强、有可复现数字、切中本地部署和合规痛点，对想自己动手的团队是个不错的参照。
Numind 放出了 NuExtract3，一个基于 Qwen3.5-4B 的开源视觉语言模型，用 Apache-2.0 协议。它主要干三件事：把图片或文字转成 Markdown 格式、从图片里直接识别文字（OCR）、以及按你给的 JSON 模板把非结构化内容抽成结构化数据。模型只有 4B 参数，对硬件要求不高，官方说最低 4GB 显存就能在本地部署。...
推荐理由：NuExtract3 把一个 4B 大小的开源视觉模型打包成了文档抽取工具，支持 OCR、转 Markdown 和按你给的 JSON 模板把内容抽出来。最吸引人的是它最低只要 4GB 显存就能在自己机器上跑，这对在意数据不出本地的团队来说省了不少事。模型基于 Qwen3.5-4B，用 Apache-2.0 协议，没有授权上的坑。不过正文没给出具体的抽取准确率或延迟数据，实际效果得自己测一下才知道。
OpenBMB 放出了 BitCPM-CANN，一个在华为昇腾 NPU 上原生跑通的 1.58-bit（三值）大模型训练方案。他们用和 MiniCPM4 一样的架构与数据，从零训了 0.5B、1B、3B、8B 四个尺寸。1B 到 8B 的模型在 11 个测试集上平均保住了全精度模型 95.7% 到 97.2% 的性能，3B 版本在 BBH 上打平，3B...
推荐理由：我会先打个折：目前只有 Reddit 帖子作为来源，没有吞吐量、显存占用或复现细节，所以先放在 featured 的底线。但这条信息本身挺实在——OpenBMB 在昇腾 NPU 上从零训练了四个 1.58-bit 的模型，不是推理时量化，而是训练阶段就压到极低比特。1B 到 8B 的性能保留率都在 95% 以上，说明这条路在国产硬件上走得通。对需要控制训练成本、又绑在昇腾生态里的团队来说，这是个值得跟的信号。
一位 Reddit 用户分享了怎么在 llama-server 自带的网页界面里，直接用 llama.cpp 的原生工具实现联网资料检索（也就是 web RAG）。他的做法分七步：先开启 get_datetime 和 exec_shell_command 这两个工具，然后让模型通过 firejail 沙箱、一个独立的 Linux 用户以及一个 Alpi...
推荐理由：这是一篇社区教程，不是模型发布或产品更新，所以权威性和覆盖面有限，但实操价值高。H、K、R 三项都成立：动手门槛低、步骤清晰、切中本地部署的痛点。我会先打个折，因为来源是个人帖子，验证强度弱，但信息量足够放进精选。