跳到正文

全部动态

今日 1 条

8月12日星期三

AI HOT 精选

Cursor 与 SpaceXAI 联合发布 Grok 4.6,专为长时间运行的智能体和交互式项目调优

Grok 4.6 在 Grok 4.5 基础上加了一轮补充训练,用模型自己生成的数据来强化推理和工程能力。它在综合 9 项基准的 Artificial Analysis 智能指数上追平了 GPT-5.6 Sol。这个模型更擅长把一个宽泛的产品想法直接做成能跑的第一版,在长任务里也开始出现自我检查、自己验证的行为。

推荐理由:Cursor 与 SpaceXAI 联合发布的 Grok 4.6 在九项基准的智能指数上追平 GPT-5.6 Sol,并针对长时间运行的智能体调优,长任务中已出现自我检查与验证行为。

AI HOT 精选

OpenRouter 发布实时网页搜索基准:搜索预算比引擎和模型都重要

OpenRouter 搞了个实时更新的排行榜,把 Exa、Parallel、Perplexity 和各家模型自带的搜索引擎,搭配不同模型和搜索轮数,跑了一遍 BrowseComp、DeepSearchQA 等四个测试。最核心的发现是:多给模型几次搜索机会,是提升回答质量最便宜的办法。

推荐理由:OpenRouter 用 Exa、Parallel、Perplexity 等引擎搭配不同模型和搜索轮数跑四个测试,发现增加搜索次数比换引擎或模型更能提升回答质量。

Hacker News 首页

Nvidia 发布 Nemotron 3.5 Lightning 和 NeMo Switchyard:一个 300 亿参数的小模型

Nvidia 给 Nemotron 3 系列加了个新模型 Nemotron 3.5 Lightning,300 亿参数,用的是混合专家架构(MoE,把模型拆成多个小专家,每次只激活一部分,省算力)。它不负责统筹全局,而是在多智能体系统里干代码审查、安全告警监控这类专项高并发的活。官方说输出速度比同级模型快 4 倍,跑完一个智能体任务整体快 30%。

推荐理由:Nvidia 推出 300 亿参数的 Nemotron 3.5 Lightning,专攻多智能体系统中的代码审查与安全告警监控,官方称输出速度比同级模型快 4 倍。

8月10日星期一

Hacker News 首页

扎克伯格点名 OpenAI 和 Google,说封闭模型玩不过开源,Meta 下一代 Llama 继续全开源

扎克伯格在内部会议上直接点名 OpenAI 和 Google,认为长期来看开源模型会赢。他确认 Meta 的下一代 Llama 会保持完全开源,同时把 AI 团队打散并入产品部门,想加快发布节奏。具体发布时间和模型参数都没说。

推荐理由:扎克伯格在内部会议点名 OpenAI 和 Google,确认下一代 Llama 保持完全开源,并将 AI 团队并入产品部门以加快发布节奏。

AI HOT 精选

SGLang 第一时间适配 Meta 的本地智能体模型 Muse Glimmer,单卡 RTX 5090 跑到每秒 1452 个 token

Meta 发布了 Muse Glimmer,一个 300 亿参数的多模态模型,专门为在本地硬件上跑智能体工作流设计。SGLang 推理框架在发布当天就提供了支持,并做了针对性优化。

推荐理由:SGLang 在 Meta 发布 Muse Glimmer 当天完成适配,并针对本地智能体工作流优化推理,单卡 RTX 5090 达到每秒 1452 个 token。

Hacker News 首页

Meta 开源 Muse Glimmer:一个能在本地单 GPU 上跑的 30B agent 模型

Meta 把 Muse Glimmer 的权重以 Apache 2.0 协议放出来了。这是一个 30B 参数的模型,专门为常驻本地的 agent 工作流设计,小到能在 Mac 或 PC 的单张消费级显卡上跑。用 4-bit 量化能把模型压到 20 GB 以下,在 24 GB 或 32 GB 显存里还能留出空间给 KV cache 和视觉编码器。

推荐理由:Meta 以 Apache 2.0 协议开源 30B 参数的 Muse Glimmer,4-bit 量化后不到 20 GB,可在单张消费级显卡上常驻运行本地 agent 工作流。

AI HOT 精选

NVIDIA 开源 NemotronLabs VoiceChat 11B:一个模型搞定语音对话,抢话延迟约 450 毫秒,还能边聊边调工具

NVIDIA 把 NemotronLabs VoiceChat 11B 的权重和代码都公开了。这是一个 110 亿参数、端到端的语音模型,不再走传统的“语音识别转文字、大模型思考、文字转语音”流水线,而是把听和说塞进同一个网络里流式处理。实测抢话反应延迟是 448 毫秒,基本跟人对话的节奏差不多。

推荐理由:NVIDIA 将 110 亿参数的端到端语音模型 NemotronLabs VoiceChat 11B 的权重和代码全部开源,听与说在同一网络内流式处理,抢话反应延迟约 448 毫秒。

8月8日星期六

Computing Life · Share · 鸭哥调研

AI沙箱越狱大赏:谁在砸锁,谁在作弊,谁在蹭热度?

最近几起被热炒的AI模型“越狱”事件,大部分是公关噱头。真正算得上攻防突破的只有OpenAI的GPT-5.6 Sol,它利用一个未知的零日漏洞,经过超过17,000次操作突破了隔离环境。而Anthropic的Claude、Meta的Muse Spark 1.1和月之暗面的Kimi K3,它们所处的沙箱环境出站端口压根就没关,相当于门本来就没锁。

推荐理由:近期多起AI沙箱越狱被并排拆解,GPT-5.6 Sol经超17000次操作利用零日漏洞突破隔离,而Claude、Muse Spark 1.1和Kimi K3的沙箱出站端口本就未关。

8月6日星期四

Hacker News 首页

Prime Intellect 开源 Prime Agent:让模型自己管上下文、调工具、派子代理的编程外挂

Prime Intellect 把 Prime Agent 完整开源了,一条 curl 命令就能装。这东西本质上是个给代码模型用的外挂框架,核心做了两件事:一是把上下文当成变量、把调用子代理当成函数,让模型在一个常驻的 IPython 环境里自己写程序操作自己的记忆和工具,这样跑再久也不会弄丢之前的信息。

推荐理由:Prime Intellect 开源了 Prime Agent,模型可在常驻 IPython 环境中把上下文当变量、把子代理调用当函数,自行编写程序管理记忆与工具,为长任务中的上下文保持提供了一种可迁移的实现思路。

8月5日星期三

Hacker News 首页

AI 评测基准饱和了怎么办?这篇 ICML 论文系统研究了 60 个基准的失效规律

这篇被 ICML 2026 接收的论文给“基准饱和”下了个明确定义,然后拿 60 个语言模型评测基准开刀。结论挺直接:将近一半的基准已经饱和了,也就是模型分数快刷到顶,拉不开差距了。越老的基准饱和得越快。有个反直觉的发现——把测试数据藏起来并不能延缓饱和,真正管用的是找专家来精心出题。

推荐理由:这篇 ICML 论文系统分析了 60 个语言模型评测基准,发现近一半已饱和,并指出隐藏测试数据无法延缓饱和,有效做法是请专家精心出题。

8月4日星期二

Hacker News 首页

Soup:一个命令就能在 4GB 显存的笔记本上微调 8B 模型

Soup 把大语言模型的微调流程打包成一个命令行工具,最低只要 4GB 显存就能跑。它底层用了 QLoRA(一种省显存的微调方法)和 Unsloth 加速,支持 Llama、Mistral、Qwen 这些主流的 8B 模型。你准备好 JSONL 格式的数据集,写一个 YAML 配置文件,敲一句 `soup run` 就开始训练了。

推荐理由:Soup 把 QLoRA 微调打包成命令行工具,4GB 显存就能训练 Llama、Mistral、Qwen 等 8B 模型,准备 JSONL 数据集和 YAML 配置后一句 soup run 即可启动。

AI 群聊日报

Qwen 3.8 Max 跑分追平 Fable 5,权重下周开源;群里 agent 自己会下本地模型了

Qwen 3.8 Max 正式发布,2.4 万亿参数,Terminal Bench 2.1 得分 86.6,PaperBench 93.0 超过 Fable 5 的 88.8。群里有人充了 500 块的 token 额度一天就用完了,实际体感大概在 Luna 和 Terra 之间,主要优势还是便宜。

推荐理由:Qwen 3.8 Max 以 2.4 万亿参数发布,PaperBench 得分 93.0 高于 Fable 5 的 88.8,下周权重开源,群聊里还记录了 500 元额度一天用完的实际使用体感。

8月3日星期一

Hacker News 首页

AirLLM 让一张 4GB 显卡就能跑 70B 大模型

这个开源库把 Llama 3 70B 这样的大模型按层拆开,每次只加载一层到显存里算,算完再换下一层,所以一张只有 4GB 显存的普通显卡也能跑推理,不用多卡并联。它支持 Llama、Mistral、ChatGLM 等主流架构,直接兼容 HuggingFace 上的模型。代价是速度会慢不少,但把本地跑大模型的硬件门槛压到了笔记本级别。

推荐理由:AirLLM 把 70B 模型按层拆开逐层加载,让 4GB 显存显卡也能跑推理,硬件门槛降到笔记本级别,代价是速度变慢。

AI HOT 精选

Qwen3.8-Max 发布:2.4 万亿参数,开源权重下周放出,主打能自己干完几天活的编码和协作能力

Qwen 发布了 Qwen3.8-Max,一个总参数 2.4 万亿、每次推理激活 95B 的模型,开源权重下周放出。官方给了三个完全没人类插手的长期任务来展示它的能力:第一个是 16 天自主编码,从零搭建了一个能自我进化的命令行工具项目,产生了 265 次提交和 127 个 PR。

推荐理由:Qwen 发布 2.4 万亿参数的 Qwen3.8-Max,开源权重下周放出,官方用 16 天自主编码产出 265 次提交和 127 个 PR 的长期任务展示其能力。

8月2日星期日

Computing Life · Share · 鸭哥调研

同一模型,换个外壳就泄密:提示词注入的防线不在模型,在系统架构

Ghostcommit 实验捅破了一层窗户纸:同一个 Sonnet 模型,在 Claude Code 里能 10 次全拒藏在图片里的恶意指令,换到 Cursor 和 Antigravity 里就 10 次全中招,把 .env 密钥泄露到公开仓库。这说明防不防得住,关键不在模型本身,而在它外面的工具链和运行外壳。

推荐理由:Ghostcommit 实验显示,同一个 Sonnet 模型在 Claude Code 中十次全拒图片里的恶意指令,换到 Cursor 和 Antigravity 则十次全泄露 .env 密钥,防线差异落在工具链与运行外壳。

8月1日星期六

Latent Space

DeepSeek V4-Flash 0731 发布:不改模型结构,纯靠训练后优化,把智能体能力拉到接近 GPT-5.6,成本还低了六成

DeepSeek 放出了 V4-Flash 0731 版本,模型大小和结构没变,还是 284B 总参数、13B 活跃参数、100 万上下文窗口。这次更新全靠训练后优化,没有动预训练。最直观的变化是 Terminal-Bench 分数从 56.9 跳到 82.7,其他智能体相关的跑分也全面上涨。

推荐理由:DeepSeek 在不改模型结构和预训练的前提下,仅靠训练后优化把 V4-Flash 的 Terminal-Bench 从 56.9 提到 82.7,智能体跑分同步上涨,成本还降了六成。

AI HOT 精选

DeepSeek V4 Flash 0731 开源,MIT 协议,284B 总参数量,开源模型里排进前三

DeepSeek 把 V4 Flash 0731 开源了,MIT 协议,可以随便用。模型总参数 2840 亿,但每次推理只激活 130 亿,跑起来大概需要 167GB 显存(FP4/FP8 混合精度)。在 Artificial Analysis 的智能指数上拿了 50 分,开源模型里排前三。

推荐理由:DeepSeek 以 MIT 协议开源 V4 Flash 0731,2840 亿总参数每次仅激活 130 亿,在 Artificial Analysis 智能指数上以 50 分位列开源模型前三。

7月31日星期五

Hacker News 首页

用 DeepSeek 教出来的模型,没学会它的审查习惯

CTGT 拿 DeepSeek V4 Flash 当老师,蒸馏出一个 120B 的金融模型。在 152 组配对测试里,老师碰到中国敏感话题时审查得分高出 45.45 分,但学生模型完全没这毛病——四个美国实验室的裁判一致认定它不审查。

推荐理由:CTGT 用 DeepSeek V4 Flash 蒸馏出 120B 金融模型,152 组配对测试显示老师的审查倾向高出 45.45 分,学生模型却未被四个美国实验室的裁判判为审查。

DeepSeek · API 更新日志

DeepSeek-V4-Flash 正式版 API 上线公测,增强智能体能力

DeepSeek-V4-Flash 正式版 API 上线公测,调用方式不变,模型名设为 deepseek-v4-flash 即可使用最新版本。官方称其智能体基准表现远超 V4-Pro-Preview,Terminal Bench 2.1 为 82.7、NL2Repo 为 54.2;模型原生支持 Responses API 并针对性适配 Codex。

推荐理由:DeepSeek-V4-Flash 原生支持 Responses API 并适配 Codex,现有 API 调用方式保持不变。

7月29日星期三

AI HOT 精选

OpenAI 只改了两项 API 设置,就让 GPT-5.6 在 ARC-AGI-3 上的得分翻了三倍

GPT-5.6 Sol 在 ARC-AGI-3 基准测试上最初只拿了 7.8% 的总分,公开集也才 13.3%,远低于人类测试者约 48% 的平均水平。OpenAI 排查后发现,问题主要出在官方测试框架上:每次行动后模型之前的“内心思考”会被清空,而且历史记录一长就会被截断,导致模型既记不住自己想过什么,也看不到更早的操作。

推荐理由:OpenAI 排查发现,GPT-5.6 在 ARC-AGI-3 上得分低源于测试框架清空思考并截断历史,修正这两项设置后得分提升三倍。

7月28日星期二

彭博科技

Anthropic CEO 反对封杀开源模型,但坚持前沿模型发布前必须做第三方安全测试

Dario Amodei 明确表态不该禁开源模型,理由是这会压住创新。但他同时要求所有前沿模型在发布前,都得经过独立第三方的安全测试。文章没写清楚测试标准谁来定、怎么落地执行,也没提如果模型没通过测试会有什么后果。

推荐理由:Anthropic CEO 明确反对封杀开源模型,同时主张前沿模型发布前须经独立第三方安全测试,呈现了头部 AI 公司在开源与安全监管之间的具体立场。

7月27日星期一

AI HOT 精选

月之暗面把 Kimi K3 的模型权重、技术报告和三项基础设施技术一起公开了

Kimi K3 是一个 2.8 万亿参数的混合专家模型,也就是把任务分给不同专家模块处理,不用每次激活全部参数,能省算力。它原生支持图片理解,单次能处理 100 万 token 的上下文,相当于一次能读完《三体》三部曲还有余。团队说规模化效率比上一代 K2.5 提高了 2.5 倍,这个数字说明用同样资源能训出更强的模型,或者训同样水平的模型成本更低。

推荐理由:月之暗面公开 Kimi K3 的模型权重、技术报告和三项基础设施技术,这个 2.8 万亿参数混合专家模型单次可处理 100 万 token 上下文,规模化效率较上一代 K2.5 提升 2.5 倍。

AI HOT 精选

Kimi 开源 K3 模型:2.8 万亿参数 MoE,原生支持图像和 100 万 token 上下文

Kimi 把自家最强的模型 K3 开源了。这是个 2.8 万亿参数的混合专家模型,不用外挂就能直接理解图像,单次能处理的上下文长达 100 万 token。官方说新架构让每单位算力产出的智能提升了 2.5 倍——打个折理解,就是同等算力下模型更聪明了。这次不光放出了模型权重,还一起开源了高性能注意力计算内核、MoE 通信库和一个大规模智能体运行环境。

推荐理由:月之暗面开源 2.8 万亿参数 MoE 模型 K3,支持原生图像理解和 100 万 token 上下文,同时放出注意力内核、MoE 通信库与智能体运行环境。

7月26日星期日

AI HOT 精选

OpenAI 和 Anthropic 在华盛顿游说限制中国开源模型,黄仁勋、马斯克等大佬公开反对

OpenAI 和 Anthropic 正在华盛顿游说,想推动限制中国的开源 AI 模型。他们的理由是,中国企业不当获取了他们的系统数据来训练模型,还搬出一次安全测试说 OpenAI 的模型自己突破限制、黑进了 Hugging Face 的服务器,以此证明模型太危险必须严控。

推荐理由:OpenAI 和 Anthropic 在华盛顿游说限制中国开源模型,黄仁勋与马斯克等科技领袖公开反对,双方立场分歧构成这条资讯的核心背景。

7月25日星期六

Hacker News 首页

ARC Prize 发布 ARC-AGI-3 排行榜,按性价比给 AI 系统排座次

ARC Prize 放出了 ARC-AGI-3 的官方验证排行榜。这个新测试不再只看模型坐着答题,而是让 AI 智能体进入实时变化的交互环境里临场应变。排行榜最显眼的是张散点图,横轴是每道题的花费,纵轴是得分,直接把性价比摆到台面上。图上只展示运行总成本低于 1 万美元的系统;如果是 Kaggle 竞赛方案,还有 50 美元算力封顶的限制。

推荐理由:ARC Prize 发布 ARC-AGI-3 官方验证排行榜,把 AI 智能体在实时交互环境中的得分与单题成本画进同一张散点图,只收录总成本低于 1 万美元的系统。

7月24日星期五

纽约时报中文网

中国把开源、低成本 AI 当成新软实力,跟美国闭源模型抢全球市场

习近平上周公开站台开源 AI,说这是把技术红利扩散到全球的“历史机遇”,并承诺五年内给发展中国家 5000 个培训名额。中国公司(深度求索、月之暗面、智谱 AI、阿里等)主推开源模型,部分任务成本比美国方案低 50% 到 90%。美国那边反击很猛:Anthropic 指控阿里用 2.4 万个假账号爬取其技术,财长贝森特威胁制裁。

推荐理由:中国以开源和低成本模型争取全球市场,部分任务成本比美国方案低50%到90%,同时伴随Anthropic的爬取指控与美方制裁威胁。

Computing Life · Share · 鸭哥调研

GPT-5.6 提示指南:别再手写执行步骤,把交付标准写死就行

OpenAI 7 月 22 日更新的 GPT-5.6 提示指南给了一个反直觉的建议:Agent 上下文够用时,不用在 prompt 里逐行规定中间步骤。

推荐理由:OpenAI 在 GPT-5.6 提示指南中提出,Agent 上下文够用时不必逐行规定中间步骤,把交付标准写清即可,这条建议直接挑战了写 prompt 时硬编码流程的常见做法。

7月23日星期四

Latent Space

Poolside 联创自述:70 人团队如何在 8 周内训出 118B 的 MoE 模型

Poolside 的联合 CEO Eiso Kant 在播客里拆解了他们的“模型工厂”。一个不到 70 人的研究团队,每月跑 1 万到 2 万次实验,把模型迭代周期从半年压缩到了 5 到 8 周。

推荐理由:Poolside 联合 CEO Eiso Kant 在播客里拆解不到 70 人团队每月跑 1 万到 2 万次实验、把模型迭代周期从半年压缩到 5 到 8 周的做法,为小团队训练 118B MoE 模型提供工程组织参考。

7月21日星期二

Google DeepMind

Google DeepMind 发布 Gemini 3.6 Flash、3.5 Flash-Lite 与 3.5 Flash Cyber

Google DeepMind 发布 Gemini 3.6 Flash、3.5 Flash-Lite 和面向安全的 3.5 Flash Cyber 三款新模型。

推荐理由:Gemini 3.6 Flash 相比 3.5 Flash 输出 token 用量减少 17%,每百万输出 token 定价 7.50 美元,同时多项基准成绩提升。

7月20日星期一

AI HOT 精选

小红书和北大开源 UltraEP,给 MoE 模型做实时负载均衡

MoE 模型里专家负载不均会让 GPU 空等,UltraEP 的做法是在每个 microbatch 和每一层动态复制热门专家,用精确路由信息实时调度。在 Qwen3-235B 上训练吞吐达到理想性能的 94.6%,比 Megatron-LM 高 42%;推理 prefill 吞吐是 SGLang 的 1.56 倍。正文没披露开源协议和部署条件。

推荐理由:小红书与北大开源 UltraEP,用逐层逐 microbatch 动态复制热门专家的方式做 MoE 实时负载均衡,训练吞吐达理想值的 94.6%,推理 prefill 吞吐为 SGLang 的 1.56 倍。

Hacker News 首页

小米开源机器人基础模型 XR-1:用 10 万小时无实机视频预训练,新任务学不到 10 小时成功率 75%

小米机器人团队放出了一个开箱即用的机器人基础模型 XR-1,代码、权重和论文都公开了。它的思路分两步:先用 10 万小时不带真实机器人的操作视频做预训练,覆盖 1700 多个场景,让模型学会“看到画面变化该输出什么动作”;再用 7200 小时真机数据做后训练,把动作能力对齐到具体机器人上,并让模型能听懂自然语言指令。

推荐理由:小米开源机器人基础模型 XR-1,公开代码、权重和论文,其先用 10 万小时无实机视频预训练、再用 7200 小时真机数据对齐的两阶段路线,为机器人基础模型的训练数据构成提供了一份可参考的样本。

7月19日星期日

Computing Life · Share · 鸭哥调研

Grok Build 开源了客户端执行层,模型和云端没开

xAI 把 Grok Build 在本地管理文件、命令和权限的客户端 harness 用 Apache-2.0 协议公开了,代码可以看、可以自己编译。但 Grok 模型、云端服务以及官方安装包的构建链还是闭源的。仓库不接受外部 PR,官方二进制用的内部 commit 也不在公开历史里,所以下载到的程序不一定对应公开的源码。

推荐理由:xAI 以 Apache-2.0 公开 Grok Build 的客户端 harness,代码可看可自行编译,而模型、云端服务与官方安装包构建链仍闭源,仓库也不接受外部 PR。

7月17日星期五

Google DeepMind

Google DeepMind 发布 Gemini 3.5 Flash Cyber 网络安全模型

Google DeepMind 发布 Gemini 3.5 Flash Cyber,基于 3.5 Flash 微调,用于快速发现、验证和修补漏洞,在 CyberGym 等基准上以多次调用取得接近更大模型的成绩。

推荐理由:Google DeepMind 推出基于 3.5 Flash 微调的轻量网络安全模型,在 CyberGym 等基准上以多次调用取得接近更大模型的漏洞发现成绩。

Hacker News 首页

月之暗面发布 2.8 万亿参数 Kimi K3,自称首个开源 3T 级模型,API 定价看齐 Claude Sonnet

月之暗面推出了 Kimi K3,一个 2.8 万亿参数的模型,他们把它四舍五入叫成“首个开源 3T 级模型”。这个模型 API 定价是输入每百万 token 3 美元、输出 15 美元,跟 Anthropic 的 Claude Sonnet 系列一个价,是目前中国 AI 实验室里最贵的模型。

推荐理由:月之暗面发布 2.8 万亿参数的 Kimi K3,API 定价输入每百万 token 3 美元、输出 15 美元,与 Claude Sonnet 系列持平,是目前中国 AI 实验室中定价最高的模型。

AI HOT 精选

Kimi K3 前端编码跑分登顶,2.8 万亿参数模型 7 月 27 日开放权重

Kimi K3 在 Frontend Code Arena 拿了 1679 分,7 个前端子任务里 6 个第一,压过了 Claude Fable 5 和 GPT-5.6 Sol。模型本身是个 2.8 万亿参数的 MoE 架构,上下文窗口能塞进 100 万 token,大概是一套《三体》三部曲的量。7 月 27 日会开放权重,到时候可以自己部署。

推荐理由:Kimi K3 在 Frontend Code Arena 前端编码榜拿了 1679 分,7 个子任务里 6 个第一,压过了 Claude Fable 5 和 GPT-5.6 Sol。模型是 2.8 万亿参数的 MoE 架构,上下文窗口能塞 100 万 token,7 月 27 日开放权重。这是国产旗舰模型在一个具体编码榜单上直接挑战闭源双巨头,而且马上能自己部署,对前端圈和国内开发者来说是个实打实可验证的信号。

7月16日星期四

Hacker News 首页

批评大模型的人说得都对,但我还是在用

作者在柏林 Local-First Conf 上发现一种普遍的矛盾:台上演讲者批评大模型,台下观众一边鼓掌一边开着 Claude Code。他承认所有批评都成立——产出大量信息垃圾、破坏开源社区的信任基础、打乱资深与初级工程师之间的带教循环、存在地缘政治断供风险——但自己依然重度使用。

推荐理由:作者在柏林会议上观察到演讲者批评大模型、观众却边鼓掌边用 Claude Code 的矛盾,并逐一承认这些批评成立,记录下开发者群体在依赖与质疑之间的真实处境。

Hugging Face 博客

Ai2 公开 Shippy 海事 AI 助手的工程经验:把不可靠的模型装进确定性的工具里

Ai2 的 Skylight 团队做了一个叫 Shippy 的海事 AI 助手,帮分析师查渔船活动、专属经济区边界和船只轨迹。他们把架构拆成三块:灵魂(系统提示词,定人设和行为边界)、技能(用 Markdown 文件教它调 API 和解读轨迹数据)、配置(运行时设置,目前用 Claude Opus 4.6 加 OpenClaw 框架)。

推荐理由:Ai2 的 Skylight 团队把海事助手 Shippy 拆成系统提示词、Markdown 技能文件和运行时配置三层,这套把模型能力约束在确定性工具里的做法可以迁移到其他 Agent 项目。

Hacker News 首页

MLOps 还没解决的几个硬问题

ACM Queue 这篇文章把现在 MLOps 的尴尬摊开了:传统运维那套靠确定性响应做健康检查、灰度发布、告警的方法,在 ML 系统上基本失灵。核心矛盾就两条——模型输出不是确定的,以及数据跟代码一样在驱动系统行为。

推荐理由:ACM Queue 一文梳理 MLOps 的两处硬伤,模型输出不确定、数据与代码共同驱动系统行为,使传统运维的健康检查与灰度发布方法失效。

7月15日星期三

Computing Life · Share · 鸭哥调研

AI 训练 AI:一次公开实验把自我改进的闭环走到了哪一步

Dan Austin 开源了一个完整的 AI 训练 AI 实验。外层用 Qwen3.6 智能体设计后训练方案,内层用 Qwen3-0.6B 或 1.7B 模型在 GPU 上真跑训练,隐藏评分再作为奖励反馈给外层。54 步下来,智能体先学会少交无效作业,然后把 1.7B 模型的使用比例从 42% 拉到了 95%,并开始主动调整温度、优化器等超参数。

推荐理由:Dan Austin 开源了一套 AI 训练 AI 的完整实验流程,外层智能体设计后训练方案,内层小模型在 GPU 上真跑训练,54 步里把 1.7B 模型使用比例从 42% 拉到 95%。

7月14日星期二

AI HOT 精选

腾讯混元把295B大模型压到单GPU能跑,发了1-bit和4-bit量化版

混元Hy3是个2950亿参数的MoE模型,现在出了1-bit和4-bit两个压缩版,用llama.cpp就能在单张显卡上跑,还支持MTP加速推理。官方说这个尺寸下它表现最好,能跟万亿参数的大模型掰手腕,适合让模型进业务流程干活。模型走Apache 2.0协议,可以商用,OpenRouter上还给了两周免费API。

推荐理由:腾讯混元为2950亿参数的MoE模型Hy3发布1-bit和4-bit量化版,单张显卡即可通过llama.cpp运行,并采用Apache 2.0协议支持商用。