跳到正文

NVIDIA 英伟达

英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力市场的风向。

363 条精选相关主题部署工程行业动态具身智能

最新精选

第 201–220 条 · 共 363 条

6月24日星期三

The Verge · AI

OpenAI 发布首款自研芯片 Jalapeño,专跑 ChatGPT 推理,已量产部署

OpenAI 跟博通合作搞出了第一款自家芯片,代号 Jalapeño。这芯片现在只干一件事:在服务器上跑 ChatGPT 的推理(也就是你问它答的那个环节),不负责训练模型。OpenAI 说它已经量产,并且开始往自家服务器里装了,目的很直接——少用点英伟达的卡,把运营成本压下来。

推荐理由:OpenAI 与博通合作的首款自研芯片 Jalapeño 已量产并部署,只承担 ChatGPT 推理,为观察大模型公司自研算力替代英伟达提供具体样本。

FT · 科技

SK 海力士要在美国上市,计划募资 290 亿美元,拿钱去扩产 AI 用的 HBM 内存

SK 海力士准备在美国搞一次 290 亿美元的 IPO,这是韩国公司史上最大规模的海外上市。融来的钱主要用来扩产 HBM(高带宽内存),这种内存是英伟达等 AI 芯片厂商的抢手货。文章没披露具体上市时间表和定价,但方向很明确:AI 军备竞赛的钱已经烧到上游供应商了。

推荐理由:SK海力士计划赴美上市募资290亿美元,用于扩产英伟达等AI芯片厂商所需的HBM内存,这是韩国公司规模最大的海外上市。

6月23日星期二

TechCrunch · AI

Groq 确认拿到 6.5 亿美元新融资,在被英伟达花 200 亿“只挖人不收购”后重新搭团队

AI 芯片公司 Groq 确认完成了一轮 6.5 亿美元的融资。这事发生在英伟达花了大约 200 亿美元,把 Groq 大部分员工直接挖走、但没收购公司之后。CEO Jonathan Ross 说,Groq 现在要转向“新云”模式,也就是不再只卖硬件,而是用自己的芯片直接跑 AI 推理服务。

推荐理由:Groq 在被英伟达以约 200 亿美元挖走大部分员工后确认完成 6.5 亿美元融资,并转向用自家芯片直接提供 AI 推理服务的新云模式。

TechCrunch · AI

SpaceX 拿下第三笔算力大单,开源 AI 实验室 Reflection AI 每月付 1.5 亿美元租用 GB300 芯片

SpaceX 在孟菲斯附近的 Colossus 2 数据中心又签了一家大客户。开源 AI 实验室 Reflection AI 从 2026 年 7 月 1 日起,每月支付 1.5 亿美元,合同签到 2029 年,换来英伟达最新 GB300 芯片的即时使用权。

推荐理由:SpaceX 在孟菲斯 Colossus 2 数据中心签下第三笔算力大单,开源实验室 Reflection AI 每月支付 1.5 亿美元租用英伟达 GB300 芯片至 2029 年。

6月17日星期三

纽约时报中文网

AI 芯片的钱,这次中国没挣到

英伟达的 AI 芯片卖爆了,但真正跟着发财的是给它供内存的三家公司:SK 海力士、三星和美光。最先进的内存晶圆只有这三家能做,今年价格直接翻了一倍多。黄仁勋在 Computex 上跑到海力士的展台,在一片缺货的晶圆上写“请多生产一些 :)”,因为产能根本跟不上。

推荐理由:英伟达AI芯片需求带火内存供应链,SK海力士、三星、美光三家垄断最先进内存晶圆,今年价格翻倍多,黄仁勋在展台求增产。

6月16日星期二

Hacker News 首页

SubQ 1.1 Small 发布:用稀疏注意力把百万 token 长文本计算量砍掉 64.5 倍

Subquadratic 放出了 SubQ 1.1 Small 的模型卡。它把传统注意力机制里那种“每个词都要和所有词算一遍关系”的密集计算,换成了按内容相关性动态路由的稀疏注意力(SSA),让计算量随文本长度线性增长,而不是平方级爆炸。

推荐理由:Subquadratic 发布 SubQ 1.1 Small 模型卡,用按内容相关性动态路由的稀疏注意力替代密集计算,使长文本计算量随长度线性增长而非平方级爆炸。

6月10日星期三

NVIDIA 博客

苹果把英伟达的机密计算拉进私有云,用 H100 在加密环境里跑 AI 推理

苹果之前只在自家芯片上跑私有云推理,现在开始把一部分工作负载挪到英伟达 H100 GPU 上,用 Hopper 架构的硬件级可信执行环境保护数据。处理过程中数据保持加密,连云服务商都碰不到。这相当于苹果在保持同样安全隔离的前提下,给私有云计算换了个更通用的算力底座。不过正文没披露具体上线时间和部署规模,只确认会先在苹果自己的数据中心里跑起来。

推荐理由:苹果把部分私有云推理负载从自研芯片迁到英伟达 H100,用硬件级可信执行环境维持数据加密,算力底座由此从专用芯片扩展到通用 GPU。

6月9日星期二

AI HOT 精选

SpaceX 要把 AI 数据中心搬上近地轨道,单颗卫星持续算力约 120 kW,延迟 6-8 毫秒

马斯克公布了 SpaceX 的 AI1 轨道 AI 数据中心卫星方案。每颗卫星峰值功率 150 kW,持续计算功率约 120 kW,大致相当于一个 NVIDIA GB300 机架的算力。卫星跑在 600-800 公里高的近地轨道,通过激光链路互联,带宽约 1 Tbps,往返延迟 6-8 毫秒。散热靠双面散热器,排热能力 1,400 W/m²。

推荐理由:马斯克公布 SpaceX 的 AI1 轨道数据中心卫星方案,单颗持续算力约 120 kW,大致相当于一个 NVIDIA GB300 机架,并给出 6 至 8 毫秒的激光链路往返延迟。

6月8日星期一

AI HOT 精选

五个模型经济体里,价格崩盘消失了:控制与涌现

这篇博客因为 Hugging Face 返回了 429 错误(请求太频繁),正文内容没抓到。从标题和摘要看,实验用 OpenAI、NVIDIA、OpenBMB 的模型和一个自己微调的 5 亿参数模型来驱动市场里的交易代理。他们试了三种干预手段都没能重现价格崩盘,最后是靠结算时强行改写价格才把崩盘做出来。

推荐理由:实验用五个模型驱动市场交易代理,三种干预手段都未能重现价格崩盘,最终靠结算时强行改写价格才做出崩盘,为观察多智能体模拟中的涌现行为提供了具体案例。

r/LocalLLaMA

RTX 5090 跑 Qwen3.6-27B 实测:DFlash 投机解码加 KV 缓存压缩,速度提到 3.26 倍

作者在单张 RTX 5090 上跑了 Qwen3.6-27B,用 DFlash 做投机解码(让一个小模型先猜答案,大模型再核对,省时间),同时压缩 KV 缓存(把模型记住的上下文瘦身,省显存)。结果最高提速到 3.26 倍。用 q4_0/turbo4 量化时速度是原来的 3.18 倍,WikiText-2 上的困惑度只涨了 0.02%,基本没掉精度。

推荐理由:作者在单张 RTX 5090 上把 DFlash 投机解码与 KV 缓存压缩组合用于 Qwen3.6-27B,最高提速 3.26 倍,q4_0 量化下困惑度仅涨 0.02%。

r/LocalLLaMA

双卡 3090 跑 27B 模型,解码速度几乎翻倍,没插 NVLink 也做到了

一位 Reddit 用户拿 qwen3.6-27b-autoround-int4 模型做测试,对比单张 3090 和两张 3090 的表现。

推荐理由:Reddit 用户用两张 3090 在无 NVLink 的普通 PCIe 下跑 qwen3.6-27b 的 int4 量化版,解码速度相比单卡接近翻倍,为本地推理加卡提供了具体参考。

AI HOT 精选

英伟达和 SK 海力士签了多年协议,要一起设计下一代 AI 内存芯片

两家公司签了一份多年合作协议,打算从设计阶段就联手搞下一代 AI 用的内存芯片。目前公开的信息里没提具体产品规格、什么时候量产,也没说涉及多少资金。

推荐理由:英伟达与 SK 海力士签署多年协议,从设计阶段就联手开发下一代 AI 内存芯片,双方在 AI 内存供应上的角色让这一合作方向本身具备阅读价值。

6月7日星期日

AI HOT 精选

五个实验室,五个心智:用小模型搭了个会内幕交易的金融宫斗剧

这个项目用四家不同实验室的小模型(OpenAI 的 gpt-oss-20b、OpenBMB 的 MiniCPM3-4B、NVIDIA 的 Nemotron-Mini-4B 和一个自己微调的 0.5B Qwen)分别扮演市场里的不同角色,玩家则充当幕后金主,可以放贷、散布真假内幕消息、做空和贿赂。

推荐理由:四个实验室的小模型分别扮演市场角色,玩家作为幕后金主放贷、散布真假内幕消息、做空和贿赂,多模型差异被用来制造博弈感。

6月6日星期六

r/LocalLLaMA

开源模型这周炸了:25+ 个开放权重模型一口气放出,覆盖文本、图像、语音

Victor M 在 X 上整理了一份清单,过去一周有超过 25 个开放权重的模型发布,几乎覆盖了所有模态。其中最扎眼的是 NVIDIA 的 Nemotron 3 Ultra,一个 550B 参数的混合架构(Mamba-MoE),每次推理只激活 55B 参数,上下文窗口能塞进 100 万个 token。

推荐理由:过去一周开放权重模型发布超过 25 个,覆盖文本、图像、语音等模态,其中 NVIDIA 的 Nemotron 3 Ultra 以 550B 参数、55B 激活和 100 万 token 上下文,展示了混合架构的当前规模。

r/LocalLLaMA

在笔记本 RTX 4060 8GB 上跑 Qwen3.6-35B-A3B 的实测:一个参数改动让速度从 11 跳到 43 tok/s,投机解码再提 26%

一位 Reddit 用户在自己的笔记本(RTX 4060 8GB 显存)上跑了 Qwen3.6-35B-A3B 这个混合专家模型。他试下来发现,加上 --no-mmap 这个启动参数后,生成速度直接从大约 11 tok/s 飙到 43 tok/s,翻了近四倍。

推荐理由:一位 Reddit 用户在笔记本 RTX 4060 8GB 上实测 Qwen3.6-35B-A3B,仅加 --no-mmap 启动参数就把生成速度从约 11 tok/s 提到 43 tok/s,并给出投机解码再提 26% 的结果。

6月5日星期五

AI HOT 精选

苹果内部把新版 Siri 标成“Beta”,不会当成品来宣传

彭博社记者古尔曼爆料,苹果内部将新版 Siri 标记为“Beta 版”,意味着它不会被宣传成完全成熟的产品。苹果可能还会像当初推 Apple Intelligence 那样,给想尝鲜的用户设一个等待名单。

推荐理由:苹果内部把新版 Siri 标为 Beta 版,并可能沿用 Apple Intelligence 的等待名单方式让用户尝鲜,这透露出苹果对这款未发布产品的定位。

6月4日星期四

r/LocalLLaMA

英伟达放出 Nemotron-3-Ultra 超大 MoE 模型,550B 总参数但只激活 55B,最低要 8 张 H200 才能跑

英伟达在 Hugging Face 上发布了 Nemotron-3-Ultra-550B-A55B-BF16,一个混合专家(MoE)模型。总参数量 550B,但每次推理只激活其中 55B 参数,相当于用 55B 模型的算力去撬动大得多的知识容量。上下文窗口拉到 1M token,能一口气处理很长的文档。

推荐理由:英伟达发布 Nemotron-3-Ultra,550B 总参数每次只激活 55B,上下文窗口达 1M token,最低需 8 张 H200 才能运行。

量子位 · 公众号

CVPR 2026 上,小鹏给英伟达、特斯拉和 Waymo 讲了一遍自己的物理 AI 技术栈

小鹏在 CVPR 2026 上公开了他们的世界模型技术栈,包含 X-World、X-Foresight 和 X-Cache 三个部分。X-Cache 能砍掉约 70% 的重复计算,相当于让模型推理时少做无用功。第二代 VLA 模型用了超过 4 万亿个 token 训练,这个量级说明训练数据投入很大。

推荐理由:小鹏在 CVPR 2026 公开世界模型技术栈,X-Cache 可减少约七成重复计算,第二代 VLA 用超 4 万亿 token 训练,为端侧模型推理优化提供可参考的工程路径。

6月3日星期三

NVIDIA 博客

NVIDIA 在 CVPR 发了三篇物理 AI 论文:抓取、自动驾驶和游戏里练出来的智能体

这三篇论文都进了 CVPR。GraspGen-X 用 20 亿次模拟抓取训练,让机械手能处理没见过的物体,但正文没披露真实世界的抓取成功率。LCDrive 把自动驾驶的推理 token 砍了大约一半,靠的是让模型直接输出轨迹而不是先写文字再转成动作,延迟更低,不过没提极端场景下的安全性验证。

推荐理由:NVIDIA 在 CVPR 发布三篇论文,其中 LCDrive 让自动驾驶模型直接输出轨迹,把推理 token 减少约一半以降低延迟。

AI HOT 精选

NVIDIA 发布 NemoClaw 蓝图,让工业软件能跑通自主 AI 工程师

NVIDIA 在 COMPUTEX 上放出了一个叫 NemoClaw 的开放蓝图,专门用来构建能长时间自主干活的 AI 智能体。十几家工业软件厂商已经用它来打造“自主 AI 工程师”,主要用在 CAE 仿真和 EDA 芯片设计流程里。按官方说法,以前要跑好几周的仿真和设计任务,现在能压缩到几小时内完成。

推荐理由:NVIDIA 在 COMPUTEX 发布 NemoClaw 开放蓝图,已有十余家工业软件厂商用它构建自主 AI 工程师,覆盖 CAE 仿真与 EDA 芯片设计流程。