跳到正文

NVIDIA 英伟达

英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力市场的风向。

363 条精选相关主题部署工程行业动态具身智能

最新精选

第 241–260 条 · 共 363 条

5月31日星期日

AI HOT 精选

苹果 WWDC 要拿 Gemini 蒸馏出的小模型跑在 iPhone 上,复杂问题还是会甩给谷歌云

下个月 WWDC 苹果会展示 Siri 和端侧 AI 的升级,核心思路是把谷歌 Gemini 模型“蒸馏”成一个小号版本,直接在 iPhone 芯片上本地跑,主打隐私和省 token 费。但整个技术栈对外依赖很重:本地模型源自 Gemini 蒸馏,手机处理不了的复杂请求会路由到谷歌云,还用了英伟达的机密计算。

推荐理由:苹果将在 WWDC 展示把 Gemini 蒸馏成小模型在 iPhone 本地运行,复杂请求仍路由到谷歌云,技术栈对外依赖明显。

新智元 · 公众号

复旦系团队发布时空一体世界动作模型 STI-WM,称能同时吃进 RGB、点云和本体感知数据做百秒级任务规划

这篇文章来自微信公众号,但页面被环境验证挡住了,正文内容完全看不到。标题和摘要里提到的“复旦铁三角”和“最优物理 AI 路径”都是原文的说法,具体技术细节、实验数据和模型架构都没法核实。已知信息是:一个叫 STI-WM 的模型,主打时空一体的世界动作建模,用在机器人上,支持 RGB 图像、点云和机器人自身状态感知三种输入,能做上百秒的任务规划。

推荐理由:复旦系团队发布 STI-WM 世界动作模型,将 RGB、点云与机器人本体感知统一输入,支持上百秒的任务规划,其多模态融合思路为机器人长程动作建模提供了一条可参考的技术路径。

量子位 · 公众号

英伟达、微软、Arm 同发预告,传老黄自研 CPU 笔记本 N1X 要来了

三家公司在同一天发了同一张“PC 新纪元”的预告图,指向一台传闻中由英伟达主导设计的笔记本 N1X。目前流出的配置是 20 核 Arm 架构 CPU、Blackwell GPU、6144 个 CUDA 核心和 128GB LPDDR5X 统一内存,听起来像一台给 AI 开发者准备的移动工作站。

推荐理由:英伟达联合微软、Arm 同天发布 PC 新纪元预告,指向其主导设计的 N1X 笔记本,20 核 Arm CPU 与 128GB 统一内存的配置,为观察 Arm 架构进入高性能移动端提供了一份具体样本。

量子位 · 公众号

复旦系团队发布机器人世界动作模型 STI-WM,把时空信息揉在一起做长任务

沐神智能搞了个叫 STI-WM 的模型,专门给机器人用的。它把 RGB 画面、深度点云和机器人自身状态(比如关节角度)同时喂进去,首创了时空一体的架构,不再是先看空间再看时间的两段式处理。官方说它能支撑上百秒的长任务推演,中间出错了还能闭环重新规划。不过正文没给出具体的基准测试分数,也没提部署成本,所以实际效果和性价比还得等更多数据。

推荐理由:沐神智能发布 STI-WM,把 RGB、深度点云与机器人关节状态同时输入一个时空一体架构,支撑上百秒长任务推演并支持出错后重新规划。

AI HOT 精选

NVIDIA 用 DynoSim 给推理部署做模拟器,一次能跑几千种配置,速度是实时的 1500 倍

NVIDIA 给自家推理服务框架 Dynamo 配了个仿真工具 DynoSim,用 Rust 写成。它把部署测试变成“先在虚拟时间线上模拟、再挑最好的上真机”的流程,不用一个个试。测试里它能跑到实时速度的 1500 倍,一次筛几千种配置。

推荐理由:NVIDIA 为推理框架 Dynamo 配套了 Rust 写的仿真工具 DynoSim,把部署配置筛选从真机逐个试改为虚拟时间线批量模拟,测试中达到实时速度的 1500 倍。

5月30日星期六

r/LocalLLaMA

把一块 RTX Pro 6000 塞进 2016 年的戴尔 R730 服务器,跑 65 万 token 上下文

作者想把一块最新的 RTX Pro 6000 Blackwell 显卡装进一台 2016 年的戴尔 PowerEdge R730 服务器里,目标是搭一台能跑 65 万 token 上下文的本地 AI 盒子。过程不顺利:先要切掉风扇导流罩才能把卡塞进去,接着用双 riser 卡解决供电,然后系统卡在 PCIe BAR 分配上,根本认不到全部显存。

推荐理由:作者尝试把 RTX Pro 6000 装进 2016 年的戴尔 R730 服务器,目标是跑 65 万 token 上下文,过程中遇到风扇导流罩、供电和 PCIe BAR 分配等硬件障碍。

AI HOT 精选

xAI 放弃 JAX GPU,改用自研 C 语言训练框架

SemiAnalysis 爆料 xAI 已经不用 JAX 在 NVIDIA GPU 上训练模型了,转而用 Grok Build 写了一套 C 语言训练框架。报道说 xAI 的 JAX 方案模型浮点利用率(MFU)不到 10%,这个数字很低,意味着大部分算力都浪费在调度和通信上,没真正花在训练上。

推荐理由:xAI 弃用 JAX 在 NVIDIA GPU 上的训练方案,改用 Grok Build 自研的 C 语言框架,原方案模型浮点利用率不到 10%。

机器之心 · 公众号

英伟达和清华的 γ-World 把世界模型从单机改成了联机,登顶 HuggingFace 日榜

这篇推文本身因为微信环境验证没抓到正文,我只能根据已有的英文摘要和标题来还原。γ-World 是一个多智能体世界模型,核心是把多个 AI 角色放在同一个虚拟环境里互动。它用了一种叫“单纯形位置编码”的方法和 hub token 机制,把多个智能体之间的交互计算成本从平方级降到了线性级。

推荐理由:英伟达与清华团队提出多智能体世界模型 γ-World,用单纯形位置编码和 hub token 把智能体间交互的计算成本从平方级降到线性级。

TechCrunch · AI

Nvidia 刚花 200 亿美元变相收购人才,AI 芯片公司 Groq 又传出要内部融资 6.5 亿,重心从硬件转向推理

Axios 的消息说,Groq 正在寻求 6.5 亿美元的内部融资,同时公司方向会从造芯片转向主攻 AI 推理,也就是优化模型接到指令后生成回答的那一步。这个动作发生在 Nvidia 被曝用 200 亿美元做了一笔“非收购式挖人”之后。正文没披露 Groq 现在的估值、投资人是谁、交易结构,也没说这轮融资的时间表。

推荐理由:Groq 寻求 6.5 亿美元内部融资,同时把重心从造芯片转向 AI 推理,这一转向发生在 Nvidia 以 200 亿美元做非收购式挖人之后。

5月29日星期五

r/LocalLLaMA

StepFun 3.7 Flash:196B 总参数、11B 激活的 MoE 模型,带 1.8B 视觉模块,能在 128GB 内存的本地机器上跑

StepFun 放出了 Step 3.7 Flash,一个混合专家(MoE)模型,总参数量 196B,但每次推理只激活 11B 参数,所以对算力要求没那么夸张。它内置了一个 1.8B 参数的视觉 Transformer(ViT),可以直接处理图像输入。官方说这个模型能在配备 128GB 内存的本地环境里运行,不用非得连云端。

推荐理由:StepFun 发布 Step 3.7 Flash,196B 总参数只激活 11B,还带 1.8B 视觉模块,官方称可在 128GB 内存的本地机器上运行。

彭博科技

三星开始向英伟达等客户寄送下一代 AI 内存芯片样品,声称抢到先发优势

三星电子已经开始向客户寄送其最先进的内存芯片样品,这些芯片将用于英伟达等公司的 AI 加速器。不过,正文因为 Bloomberg 的反爬机制没能抓到具体内容,所以芯片型号、客户名单、样品数量、定价和量产时间这些关键信息目前都看不到。

推荐理由:三星已向英伟达等 AI 加速器客户寄出最先进内存芯片样品,在下一代 AI 内存供应上先于对手进入客户验证环节。

5月28日星期四

NVIDIA 博客

NVIDIA 在 ICRA 发了 8 篇论文,核心是让机器人在仿真里练完直接去现实世界干活

NVIDIA Research 在 ICRA 上展示了 8 篇论文,都围绕一个思路:在仿真里训练机器人,然后直接部署到真实环境。ScheduleStream 让多机械臂并行规划,速度提升 3 倍,代码已开源。COMPASS 导航框架完全不靠真实数据,在仿真里训练后迁移到真机,20 次真实导航测试成功率约 80%,比纯模仿学习基线高了 4.5 倍。

推荐理由:NVIDIA Research 在 ICRA 发布 8 篇论文,其中 COMPASS 导航框架不依赖真实数据,仿真训练后迁移到真机,20 次测试成功率约 80%,为纯模仿学习基线的 4.5 倍。

r/LocalLLaMA

英伟达 LocateAnything:用并行框解码做视觉定位,号称比 Qwen3-VL 快 10 倍

英伟达放出了一个叫 LocateAnything-3B 的模型,专门做视觉语言定位——就是给张图、说句话,模型把对应物体用框标出来。它主打“并行框解码”,不像传统方法一个个框串行生成,所以速度上来了,标题直接写比 Qwen3-VL 快 10 倍。

推荐理由:英伟达开源 3B 视觉定位模型 LocateAnything,用并行框解码替代逐框串行生成,官方称速度比 Qwen3-VL 快 10 倍。

AI HOT 精选

英伟达开源 Polar 框架,不改代码就能让 Codex 跑分涨近 6 倍

英伟达搞了个叫 Polar 的开源框架,专门解决一个实际问题:怎么在不重写 Codex、Claude Code 这些现成代码工具的前提下,用强化学习(GRPO,一种让模型在多步任务里根据奖励信号自己学会更优操作的训练方法)去训练它们。

推荐理由:英伟达开源 Polar 框架,让 Codex 无需重写代码即可用强化学习训练,为现成代码工具的能力提升提供了一条可迁移的路径。

TechCrunch · AI

Snowflake 跟 AWS 签了 60 亿美元的五年长约,专门锁定 AI 芯片算力

Snowflake 和 AWS 敲定了一笔 60 亿美元、为期五年的合同,用来确保 AI 芯片的供应。原文没披露具体芯片型号、交付时间,也没说这批算力是拿来做模型训练、跑推理还是两者都有。对 AWS 来说这是个大单,对 Nvidia 则是个信号——大客户在找替代方案。不过正文信息有限,具体怎么用、能省多少成本都还没谱。

推荐理由:Snowflake 与 AWS 签下 60 亿美元五年合同锁定 AI 芯片算力,这笔大单显示大型云客户正在英伟达之外寻找替代算力来源。

AI HOT 精选

Hao AI Lab 开源 FastVideo Dreamverse,一张 B200 显卡 7 秒跑出 30 秒 1080p 视频

这个工具用一张 NVIDIA B200 GPU 搭配 LTX-2 模型,把生成 30 秒 1080p 视频的时间压到了 7 秒,做到了实时出片。代码和博客都公开了,但正文没披露画面质量、一致性和复杂场景下的表现,实际效果得自己跑一遍才知道。

推荐理由:Hao AI Lab 开源 FastVideo Dreamverse,用单张 NVIDIA B200 搭配 LTX-2 模型把 30 秒 1080p 视频生成压到 7 秒,代码和博客一并公开。

AI HOT 精选

黄仁勋带人看了英伟达在台湾的新园区,年投资额报 1500 亿美元

黄仁勋公开了英伟达在台湾的新园区。公司计划每年在台湾砸约 1500 亿美元,这个数字比一周前 AMD 宣布的 100 亿美元 AI 投资高了不止一个量级。正文没披露园区具体做什么、投资怎么分配,也没提产能或人员规模,所以这 1500 亿到底对应多少实际落地项目,我会先打个折看。

推荐理由:黄仁勋公开英伟达台湾新园区,公司计划每年在台投入约1500亿美元,这一数字比AMD一周前宣布的100亿美元AI投资高出一个量级以上。

5月27日星期三

机器之心 · 公众号

AMD 论文发现 FP4 训练不稳,锅不在随机性不够

AMD 和宾州州立大学用 MI355X 原生 FP4 硬件预训练了 Llama 3.1-8B,端到端速度比 FP8 基线快了 9-10%。但论文指出,Wgrad(权重梯度)量化是拖后腿的环节,导致每个 token 的计算开销额外增加 26-27%,而且用确定性 Hadamard 方法也稳不住。正文没披露最终模型的验证集效果对比,这点先别太激动。

推荐理由:AMD 与宾州州立大学在 MI355X 上用原生 FP4 预训练 Llama 3.1-8B,端到端比 FP8 基线快 9-10%,但权重梯度量化让每 token 开销多出 26-27%。

彭博科技

台湾检方怀疑有人把英伟达芯片先运到日本,再走私进中国大陆

彭博社引述知情人士消息,台湾检方怀疑三名涉案人至少将一批英伟达 AI 芯片出口到日本,随后再走私进入中国大陆。正文因为 Bloomberg 的反爬机制没能抓取到完整内容,具体芯片型号、数量、案值以及调查进展都没披露。

推荐理由:台湾检方怀疑三名涉案人先将一批英伟达AI芯片出口至日本,再走私进入中国大陆,这条消息披露了一条经日本中转的芯片流向路径。

5月26日星期二

量子位 · 公众号

面壁智能发布 ForgeTrain 和 MiniCPM5-1B,声称训练框架由 AI 自己编写,训练速度比英伟达 Megatron 快 10%

面壁智能放出了 ForgeTrain 训练框架和 MiniCPM5-1B 模型。ForgeTrain 最抓眼球的地方是,他们说是让 AI 自己写的代码,在同样硬件下比英伟达的 Megatron 训练快 10%。MiniCPM5-1B 是个 10 亿参数的小模型,FP16 权重约 2GB,压缩到 INT4/Q4 后约 0.5GB,主打端侧部署。

推荐理由:面壁智能发布由 AI 编写代码的 ForgeTrain 训练框架,称同硬件下训练速度比英伟达 Megatron 快 10%,并同步推出可压缩至约 0.5GB 的端侧模型 MiniCPM5-1B。