阿里千问 Qwen 系列的开源发布与迭代：从旗舰模型到端侧小模型的全谱系动态。
这篇技术报告介绍了 Qwen-Image-2.0，一个把生图和精确修图合到一个模型里的方案。它的做法是把 Qwen3-VL 当成“条件编码器”，去理解你输入的指令，再连上一个多模态扩散模型来出图。指令最长能塞进 1000 个 token。报告里说，这套架构在多语言文字渲染、画面排版质量、以及人工打分上都有提升，尤其适合文字多、构图复杂的场景。不过正文没...
推荐理由：HKR 全中：Qwen 的旗舰图像模型报告给出了具体架构、1K 令牌指令输入和编辑能力，国产旗舰模型的信号足够强，必须写。
作者用五周时间测了约 1400 个日常工作请求，发现本地跑的 Qwen 3.6 35B 这类模型能搞定其中一半，平均响应 2.8 秒，比云端 Claude Opus 4.5 的 5.8 秒快了 2.1 倍。像邮件草拟、日程安排、摘要和行政杂活这些任务，本地模型完全够用；市场调研和工程类任务则是对半开，简单查数据、修脚本可以本地跑，复杂的多源分析和架构决...
推荐理由：Tom Tunguz 拿本地35B模型做了五周实验，跑了约1400项日常工作任务，成功处理约一半，平均响应2.8秒，比Claude Opus 4.5快2.1倍。这个结果对从业者来说很实在：不是模型发布，也不是平台级更新，但给出了本地模型在延迟和成本上替代云端模型的一个具体参照点。我会先打个折——正文没披露任务类型分布和失败案例的具体原因，所以50%成功率不能直接当通用结论用。但速度对比和实验规模足够让关注推理成本和隐私的人认真看一眼。
一位 Reddit 用户用 Qwen 3.6 27B 的 MTP 量化模型跑了 300 多次测试，发现投机推理（让模型先猜后验证）的效果完全看任务类型。写代码时草稿被采纳的比例高达 79% 到 89%，用 F16 精度跑代码生成速度提升了 171%；但换成创意写作，Q4_K_M 量化下推理速度反而慢了 9%。结论很直接：别只看模型和量化，先看你要让模型...
推荐理由：我会先打个折：这只是 Reddit 上一个用户的单次实验，不是官方基准，但 300 多次测试把投机推理的任务依赖性讲得很清楚。编码任务接受率高、加速明显，创意写作接受率低、反而变慢，这个结论对本地跑模型的开发者有直接参考价值。正文没披露测试硬件和具体 prompt，但数据量够大，可以先信一半。
MachinaCheck 是一个跑在 AMD MI300X 上的多智能体系统，专门分析 STEP 格式的 CNC 零件图，判断能不能做、需要什么刀具。它用 Qwen 2.5 7B 模型在本地推理，靠 192GB 显存把客户设计数据留在厂里，不往外传。核心流程是先用纯代码解析几何特征，再让多个模型分工做工序分类、刀具匹配、可行性判断和报告生成。团队说，以...
推荐理由：这是个AMD黑客松项目，不是大厂产品发布，但“30秒出CNC报价”的钩子够直接，技术条件也写得明白，所以给到featured。正文没披露实际准确率和误判案例，这点先别太激动。
华东师大和复旦的研究者发现，现在大模型训练时只盯着“下一个词”来猜，容易让模型变得自信但目光短浅。他们提出 Next-ToBE，训练时给模型一个“软目标”，让它同时参考未来几个词的信息，但推理时不用改，还是正常的逐词生成。在 Qwen2.5-Math-1.5B、Qwen2.5-Math-7B 和 Llama3.1-8B-Instruct 上跑了 36 ...
推荐理由：这篇论文的卖点很清晰：不碰模型结构，只把训练时“猜下一个词”的目标换成“看未来一小段窗口的软目标”，就在36组实验里赢了35组。我会先打个折——正文没披露用了多大的模型、什么规模的数据，也没给复现细节或生产环境的验证，所以目前只能当学术信号看。如果是真的，这种改目标不改架构的思路确实省钱，但别急着把它当成下一个训练范式。
Anbeeld 发了一个 llama.cpp 的分支 BeeLlama.cpp，主要加了 DFlash（一种省显存的注意力机制）和 TurboQuant（更快的量化方案），还支持推理和视觉任务。标题里说在单张 RTX 3090 或 4090 上跑 Qwen 3.6 27B 的 Q5 量化版，能塞进 20 万 token 的上下文，速度比原版快 2 到 ...
推荐理由：我会先打个折：这些数字来自 Reddit 标题和摘要，没有独立复现，135 tps 的峰值在什么输入长度、什么 batch 下跑的也没说清楚。但就算打个七折，单张 3090 把 27B 模型塞进 200k 上下文还能跑到可用的速度，对个人开发者和小团队确实省钱。BeeLlama.cpp 看起来是在 llama.cpp 上做了 DFlash 和 TurboQuant 的工程优化，正文没披露具体技术细节和稳定性测试，这点先别太激动。整体算一次值得关注的本地推理更新，所以放在低位的 featured。
Reddit 用户 janvitos 在 RTX 4070 Super（12GB 显存）上跑 Qwen3.6-35B-A3B-MTP-GGUF，搭配 llama.cpp 的一个 MTP 拉取请求。他贴出的实测数据是每秒 69.2 到 81.9 个 token，草稿接受率在 0.694 到 0.947 之间，上下文长度拉到 131072。关键设置是 -f...
推荐理由：这条帖子是单用户实测，不是官方数据，验证强度有限，但数字和配置都摆出来了，可复现。对想在家用显卡上跑长上下文模型的人来说，是个很具体的参考点。我会先打个折，毕竟只有一个人晒结果，但 12GB 显存跑 35B 还能 80 tok/s，这点确实让人想试试。
千问AI眼镜S1这次更新加了两个新东西：空间3D显示和主动提醒。空间3D显示是行业里第一个这么做的，眼镜里看到的画面会有立体感。主动提醒的意思是眼镜会自己跳出来提示你，比如该叫车了，还能直接帮你操作叫车。这个月还会上线即时购物和拍照搜题功能。另外Wellsenn XR的数据显示，从3月8号开始，千问AI眼镜拿下了国内线上AI眼镜53%的销量，卖得最多。...
推荐理由：这是一次功能更新，不是新模型或平台发布。空间3D显示和主动服务让眼镜更像一个能干活的东西，但正文没给出具体技术细节和实际延迟数据。53%的线上销量份额来自维深，统计口径和线下情况没展开，我会先打个折。整体信息量够，但偏产品节奏，放在featured低分段比较合适。
indrasmirror 用一张 RTX 4090 跑 Qwen3.6-27B-Heretic-v2，上下文拉到 262K token，搭配 TBQ4_0 格式的 KV 缓存和 MTP 推测解码（draft 3），生成速度从约 43 t/s 提到 80-87 t/s。MTP 草稿接受率大概 73%，说明模型对草稿的采纳比例不低，这是提速的关键。帖子正文...
推荐理由：这是一次有实测数据的单卡推理优化记录，不是产品发布，但 H/K/R 三项都站得住。262K 上下文、80+ t/s 的 27B 模型跑在消费级显卡上，对本地部署圈子的吸引力很强。正文给了具体配置和前后对比数字，可复现性不错。扣分点在于来源只有 Reddit 帖子，且场景偏小众本地推理，所以放在 featured 档、77 分是合适的，不用再往上拔。
加州大学圣塔芭芭拉分校和苹果的研究人员搞了个叫 LenVM 的方法，把“还剩多少 token 要生成”建模成一个 token 级别的价值函数，相当于给模型装了个实时字数进度条。他们拿 Qwen2.5-3B 搭配一个 1.5B 的 LenVM 去测 LIFEBench 的长度控制任务，得分 62.6，而 GPT-5.4 只有 37.4，Claude-Op...
推荐理由：我会先打个折：正文没披露 GPT-5.4 的具体版本和测试条件，这点先别太激动。但 LenVM 的思路很实用——把“还要写多长”变成一个 token 级的值函数，让 Qwen2.5-3B 搭配一个 1.5B 的小模型就能在长度控制上大幅领先大模型。LIFEBench 长度得分 62.6 比 GPT-5.4 的 37.4 高出不少，说明在特定任务上小模型加对方法可以很省钱。对做推理优化和想摆脱闭源模型绑定的团队来说，这是个值得跟的信号。
Proprioceptive AI 搞了个叫 Cygnus 的技术，给已经冻结的大模型外挂一个自感知适配器，不重新训练就能读出模型内部残留的行为信号。做法是把隐藏状态投影到一个用 gl(4,R) 李代数定义的数学空间里，从中分离出他们称为“暗模式”的精度信号。拿 Qwen-32B 试了一下，只用一张 RTX 3090，ARC-Challenge 准确率...
推荐理由：HKR 三项都成立：12.77 个点的提升数字扎实，李代数投影的做法够新，压缩 90% 视觉 Token 对实际部署很省钱。但来源是 X 上的帖子，正文没给出完整评测集和对照实验，复现性存疑，所以只给低 featured。真正值得盯的是后续有没有第三方复现，如果复现成立，这个“冻结模型+适配器”的省钱路线对多模态推理会是实打实的利好。
Qwen 在 Qwen3 基础上微调出了 WebWorld 32B、14B、8B 三个尺寸的模型，专门用来训练和评测能在网页上执行任务的智能体。训练数据包含超过 100 万条真实网页操作轨迹，模拟环境支持 30 步以上的连续操作，并且能同时看懂无障碍树、HTML、XML、Markdown 和自然语言描述这五种页面状态。用这套数据生成的合成轨迹再去训智能...
推荐理由：我会先打个折：正文没披露合成轨迹的具体生成方式，也没说这 100 万条数据覆盖了哪些网站类型，所以别急着当通用方案。但亮点很实在——用合成轨迹训练小模型做网页操作，在 MiniWob++ 和 WebArena 上都拿到了 10% 左右的提升，说明这条路走得通。对正在折腾 Web agent 的人来说，数据和评测结果比模型本身更有用。
Reddit 用户分享了一个 llama.cpp 实操指南，用单张 RTX 3090 Ti 跑 Qwen3.5 和 3.6 的 NextN MTP（多 token 预测，一种让模型一次猜好几个词来加速生成的技术）。目前需要打两个还没合并的 PR：#22400 和 #22673。实测 Qwen3.6-35B-A3B-MTP 模型在 350W 功耗、170...
推荐理由：我会先打个折：这是 Reddit 个人指南，依赖两个没合进主线的 PR，稳定性没保证。但亮点很实在——单卡 3090 Ti 跑 35B 模型冲到 157 tok/s，还点出了 nextn=q8_0 量化覆盖这个坑，漏掉会输出乱码。对想在家用显卡上榨性能的 AI 从业者来说，这份功耗、频率、KV 缓存设置都给了，可操作性强。正文没披露模型精度损失和长文本下的速度衰减，这点先别太激动。
Avarok 把 Atlas 推理引擎开源了。它用 Rust 和 CUDA 写成，镜像只有约 2.5GB，冷启动不到两分钟。在一台 DGX Spark 上跑 Qwen3.5-35B，实测持续速度约 111 tok/s，作者说比 vLLM 快 3.0 到 3.3 倍。引擎专门为 Blackwell SM120/121 写了内核，支持 NVFP4、FP8 ...
推荐理由：我会先打个折：目前只有 Reddit 单帖来源，基准测试也没被第三方复现，所以分数压在了 featured 低位。但这条确实有料——开源推理引擎 Atlas 在 DGX Spark 上跑 Qwen3.5-35B 持续 111 tok/s，镜像才 2.5GB，冷启动不到两分钟，作者说测试时是 vLLM 的 3.0–3.3 倍。真正值得盯的是 Blackwell SM120/121 手写内核、NVFP4/FP8 和 MTP 解码这些底层优化，不是简单套壳。速度、体积、启动时间三个数字都给了，信息密度够，对想本地部署大模型的人有直接参考价值。
一位 Reddit 用户在单张 32GB 显存的 RTX 5090 上，用 vLLM 跑通了 Qwen3.6 27B 的 NVFP4 量化版，并验证了 200k 上下文长度。配置上用了 fp8_e4m3 的 KV 缓存、FlashInfer 和 3 个投机 token 的 MTP。10 次 200k 上下文跑分平均生成速度 73.6 tok/s，首 t...
推荐理由：我会先打个折：来源是 Reddit 用户自测，不是官方报告，但配置和日志都贴出来了，可复现性不低。真正值得盯的是显存边界——KV 缓存占了 8.3GiB，整卡吃到约 30478MiB，几乎榨干 32GB。这说明 NVFP4 量化确实把 27B 模型压进了消费级显卡，而且 200k 上下文不是摆设，十次都跑稳了。不过 TTFT 70 秒意味着首 token 要等一分多钟，实际用起来体验会打折扣。这点先别太激动，等更多卡型验证。
Anthropic 提出在预训练和对齐微调之间加一个叫 MSM 的训练阶段。他们在 Qwen2.5-32B 和 Qwen3-32B 上做了测试，模型乱说话的比例分别从 68% 和 54% 降到了 5% 和 7%。核心点是 MSM 是补强对齐微调，而不是替代它。
推荐理由：我会先打个折：这不是新模型发布，而是训练方法研究，所以 82 分刚好。Anthropic 用 Qwen 做实验，把 MSM 放在预训练后、对齐微调前，相当于在模型学完通用知识之后、正式教它守规矩之前，先塞一批规范文档让它读。Qwen2.5-32B 的失准率从 68% 掉到 5%，Qwen3-32B 从 54% 掉到 7%，数字说明效果明显。真正值得盯的是 MSM 和 AFT 互补，不是替代关系——这点先别太激动，正文没披露更多消融实验细节。整体是扎实的安全研究，对做对齐的从业者有参考价值。
这篇帖子来自 Reddit 的 r/LocalLLaMA，作者分享了一个 llama.cpp 的 PR，为 Qwen 3.6 27B 模型添加了 MTP（多令牌预测）支持，实测推理速度提升了 2.5 倍。在 Mac M2 Max 96GB 上达到了 28 tok/s 的生成速度。关键细节在于使用了 turbo4 4.25-bit KV 缓存量化，这让一...
推荐理由：HKR 三项都站得住：提速和长上下文对本地 agent 是实打实的吸引力，帖子里机制和数字都列清楚了，成本优势也直接。不过只有 Reddit 单源，配置也有点折腾，所以放在 featured 低位。
PromptEcho 的做法很直接：拿一个现成的、参数冻结的 Qwen3-VL-32B 模型，让它“读”一遍原始提示词，算出模型自己生成这些词的概率（交叉熵），然后把这个概率的负值当作连续奖励信号，喂给文生图模型做训练。好处是不用再单独训一个评分模型，省事。在 5000 张海报测试里，文字准确率从 68% 提到了 75%。不过正文没披露这个奖励信号跟人...
推荐理由：我会先打个折：这不是一个新模型发布，而是训练侧的 reward 方法开源，所以重要性给 78 算合理。钩子在于冻结大模型直接当 reward 用，省成本；知识密度够，把 teacher-forcing CE 怎么变成连续 reward 讲明白了，还给了 10 万张图的规模和具体数字；相关性上，文生图圈对廉价 reward 和文字准确率这两个需求很实在，75% 虽然不算完美，但方向对。正文没披露这个 reward 方法在更大规模训练下的稳定性，这点先别太激动。
明略科技放出了两个开源项目：Cider 和 Mano-P 1.0，都是给苹果 M 系列芯片用的。Cider 是个推理加速引擎，在 M5 Pro 上跑 Qwen3-VL-2B 时，把生成第一个 token 前的等待时间缩短了 57% 到 61%。Mano-P 1.0 是个能操作电脑界面的模型，72B 版本在 OSWorld 测试里拿了 58.2 分。不过...
推荐理由：我会先打个折：明略不是一线模型实验室，所以分数没往上拉。但选题本身够实用——Mac 本地跑视觉模型和 GUI 智能体，还给了可复现的提速数据和内存门槛。Cider 的 prefill 加速和 Mano-P 在 OSWorld 的成功率都有具体数字，16GB 设备准确率下降也写明了，不是纯 PR 稿。对想在 Apple Silicon 上折腾本地推理的人，这篇值得看一眼。
Reddit 用户 spencer_kw 把自己 10 天的编程工作流拆成 150 个任务，拿本地 Qwen 3.6 27B 和云端模型重新跑了一遍。结果 65% 的任务本地模型干得一样好，20% 勉强能用，只有 15% 必须上云端。他的 API 账单从每月 85 美元掉到 22 美元左右。这个测试说明省钱的关键不是盯着模型单价，而是按任务类型做分流—...
推荐理由：这篇不是模型发布，而是一个开发者拿自己的编码工作流做的成本实测，有日志、有复测、有分桶比例，信息量够。单一个 Reddit 帖子的样本量有限，普适性要打个折，所以放在 featured 而不是 P1。我会先看他的任务分类和路由逻辑，这点比“便宜 17 倍”本身更有参考价值。