跳到正文

#部署/工程

今日 0 条

5月23日星期六

Mistral AI

Mistral 收购 Physics AI 公司 Emmi AI

Mistral AI 宣布已达成收购 Physics AI 先驱 Emmi AI 的最终协议,以强化其作为工业企业 AI 转型伙伴的定位。Emmi AI 成立于奥地利,专注物理 AI 与大型工程模型,可加速工程工作流、以实时仿真替代多日计算并构建数字孪生。Emmi 的联合创始人及 30 多名研究人员和工程师将于 5 月加入 Mistral 的 Science 与 Applied AI 团队。

推荐理由:Mistral 收购奥地利物理 AI 公司 Emmi AI,30 多名研究人员将于 5 月加入其科学与应用 AI 团队,补强工业仿真与数字孪生能力。

5月22日星期五

Mistral AI

Mistral 在 Studio 发布 Connectors,支持内置与自定义 MCP

Mistral 在 Studio 发布 Connectors,所有内置连接器和自定义 MCP 现可通过 API/SDK 用于全部模型与智能体调用。新功能包括直接工具调用、human-in-the-loop 审批流程,以及对连接器的创建、修改、列出和删除等编程访问。

推荐理由:Mistral 把内置连接器和自定义 MCP 统一注册进 Studio,并给出创建、调用与人工审批的代码示例,展示企业集成层如何从各团队重复实现转为平台内一次配置。

NVIDIA 博客

NVIDIA 在 COMPUTEX 2026 拿了四个奖,Vera Rubin NVL72 号称推理能效比上代高 10 倍

NVIDIA 在 COMPUTEX 2026 上靠 Vera Rubin NVL72、Jetson Thor 和 Alpamayo 拿了四个 Best Choice 奖。

推荐理由:NVIDIA 在 COMPUTEX 2026 凭 Vera Rubin NVL72、Jetson Thor 和 Alpamayo 拿下四个 Best Choice 奖,其中 NVL72 给出的推理能效数字比上代高 10 倍。

5月20日星期三

阿里技术 · 公众号

阿里平头哥发布真武 M890 AI 芯片,128 卡超节点服务器已在百炼平台上线

阿里平头哥的真武 M890 AI 芯片首次公开,主打 Agent 场景的算力底座。配套的 128 卡超节点服务器,卡间直连延迟低于 150 纳秒,机架带宽达到 Pb/s 级别。这套硬件已经在阿里云百炼平台跑起来了,支持通义千问、DeepSeek 和 Kimi 等模型。

推荐理由:阿里平头哥公开真武 M890 AI 芯片,配套 128 卡超节点服务器已在百炼平台上线,支持通义千问、DeepSeek 和 Kimi 等模型,可了解国产 AI 芯片在 Agent 场景的落地进展。

5月8日星期五

NVIDIA 博客

美国能源部长与英伟达谈 Genesis 任务:用 AI 给电网审批提速,从几年缩到几周

美国能源部和英伟达要在阿贡国家实验室建两台 AI 超算。小的一台叫 Equinox,用 10,000 块 Grace Blackwell GPU;大的一台叫 Solstice,计划上 100,000 块还没发布的 Vera Rubin GPU。

推荐理由:美国能源部与英伟达在阿贡国家实验室部署两台 AI 超算,规模从一万块 Grace Blackwell 到十万块 Vera Rubin GPU,指向电网审批从数年到数周的提速目标。

5月6日星期三

NVIDIA 博客

NVIDIA 给 Spectrum-X 以太网加了多路径 RDMA,让超大规模 GPU 集群的流量不再堵在一条路上

NVIDIA 在 Spectrum-X 以太网平台上新增了 MRC(多路径 RDMA)支持,允许一个 RDMA 连接把流量分散到多条网络路径上,而不是死绑一条。这项技术已经在 Blackwell 集群里跑起来了,硬件层面能做到微秒级故障绕行和重路由。MRC 走的是 OCP 开放规范,支持多平面组网,目标是把集群规模推到几十万张 GPU。

推荐理由:英伟达在 Spectrum-X 以太网平台加入多路径 RDMA,让单条 RDMA 连接把流量分散到多条路径,并已用于 Blackwell 集群,同时推进 OCP 开放规范以支撑更大规模 GPU 组网。

5月5日星期二

OpenAI News

OpenAI 发布 MRC 网络协议,让超大规模 GPU 集群训练更抗断、更省电

OpenAI 把自家训练大模型用的网络方案 MRC(多路径可靠连接)通过 OCP 开源了。MRC 解决的是老问题:集群大到一定程度,网络抖动和链路故障会频繁卡死训练任务,GPU 空转烧钱。它的做法是把一次数据传输拆成几百条路径同时发(packet spraying),哪条路断了就在微秒级绕开,不用等全网重算路由。

推荐理由:OpenAI 通过 OCP 开源了训练大模型用的 MRC 网络协议,把一次传输拆成几百条路径并发,链路故障时在微秒级绕开,为自建大规模 GPU 集群的团队提供了一种应对网络抖动与断链的思路。

5月1日星期五

NVIDIA 博客

NVIDIA 说 OpenClaw 开源智能体项目 60 天拿了 25 万星,但治理成本才是真问题

NVIDIA 这篇博客主要讲了两件事:一是 Peter Steinberger 做的自托管持久化智能体 OpenClaw 在 GitHub 上火了,到 2026 年 3 月已经攒了 25 万颗星,增速超过了 React。二是 NVIDIA 自己推出了 NemoClaw,用 OpenShell 沙箱和 Nemotron 模型来跑智能体。

推荐理由:OpenClaw 自托管智能体 60 天在 GitHub 攒下 25 万星,增速超过 React,NVIDIA 借此讨论常驻智能体的 token 成本与安全边界。

4月30日星期四

claude.dev 开发者博客

Claude Code 构建经验:如何围绕提示词缓存设计智能体

Claude Code 团队分享提示词缓存的工程经验,通过保持请求前缀稳定来降低长会话智能体的延迟与成本。具体做法包括静态内容前置、通过消息更新状态、避免会话中切换模型或增删工具,以及用 defer_loading 延迟加载工具。上下文压缩时复用原会话的系统提示词、工具定义和历史消息,再追加压缩请求以命中缓存;团队也监控缓存命中率,并将异常下降视为事故。

推荐理由:Claude Code 团队把缓存前缀稳定性落实到提示词排序、工具加载和上下文压缩,为长会话智能体提供可迁移的缓存优化方法。

4月27日星期一

Mistral AI

Mistral AI 发布 Workflows 公开预览版

Mistral AI 发布企业 AI 编排层 Workflows 公开预览版,提供持久化执行、可观测性和人工介入审批能力,ASML、ABANCA、CMA-CGM 等客户已用于自动化关键流程。

推荐理由:Mistral AI 将企业 AI 编排层 Workflows 开放公开预览,ASML、ABANCA 等客户已用它自动化关键流程,材料展示了持久化执行、可观测性与人工审批在货运放行、KYC 审核中的落地方式。

4月24日星期五

Hugging Face 博客

DeepSeek-V4 发布:百万 token 上下文,这次是给干活用的 agent 准备的

DeepSeek 发了 V4,分 Pro 和 Flash 两个版本,都支持 100 万 token 的上下文窗口。Pro 版总参数 1.6 万亿,每次推理激活 490 亿;Flash 版总参数 2840 亿,激活 130 亿。跑分不是最顶尖的,但这不是重点。

推荐理由:DeepSeek-V4 分 Pro 和 Flash 两版,均支持 100 万 token 上下文,Pro 版总参数 1.6 万亿、激活 490 亿,Flash 版总参数 2840 亿、激活 130 亿。

DeepSeek · API 更新日志

DeepSeek API 支持 DeepSeek-V4,旧模型名将于三个月后停用

DeepSeek API 已支持 V4-Pro 与 V4-Flash,兼容 OpenAI ChatCompletions 接口与 Anthropic 接口。访问新模型时 base_url 不变,model 参数需改为 deepseek-v4-pro 或 deepseek-v4-flash。

推荐理由:DeepSeek 在保持 API 地址不变的同时更换模型参数,并明确旧模型名的停用期限,迁移涉及调用配置调整。

4月23日星期四

Hugging Face 博客

在 Chrome 插件里跑本地 AI:一份给开发者的架构避坑指南

Hugging Face 发了一篇技术指南,拆解了他们刚做的 Chrome 插件“Transformers.js Gemma 4 浏览器助手”。核心是把 Gemma 4 E2B 模型塞进浏览器的后台 Service Worker 里本地运行,不靠云端。

推荐理由:Hugging Face 拆解了把 Gemma 4 E2B 放进 Chrome 后台 Service Worker 本地运行的插件架构,涉及 MV3 环境下的工程取舍。

4月22日星期三

OpenAI News

OpenAI 给 Responses API 加了 WebSocket,让 Codex 这类 agent 跑起来更快

OpenAI 发现,当模型推理速度从每秒 65 个 token 飙到近 1000 个 token 时,API 本身的处理开销反而成了拖慢 agent 循环的瓶颈。

推荐理由:OpenAI 为 Responses API 加入 WebSocket 长连接与连接级缓存,针对模型推理提速后 API 处理开销成为 agent 循环瓶颈的情况,减少反复建连与重复请求的成本。

4月21日星期二

X · @AnthropicAI

Anthropic 跟亚马逊扩大合作,给 Claude 锁定了最多 5 吉瓦的算力

Anthropic 宣布加深与亚马逊的合作,为训练和部署 Claude 锁定了最高 5 吉瓦的算力。这批算力从这个季度开始陆续到位,到 2026 年底预计先上线近 1 吉瓦。5 吉瓦是个什么概念?大概相当于几个大型数据中心的满负荷运转,说明他们接下来要把模型规模或服务量再往上拉一个台阶。

推荐理由:Anthropic 与亚马逊扩大合作,为训练和部署 Claude 锁定最高 5 吉瓦算力,其中近 1 吉瓦预计 2026 年底前上线,这条交代了其算力储备的推进节奏。

3月17日星期二

NVIDIA 博客

GTC 上 NVIDIA 用 RTX 电脑和 DGX Spark 跑本地 AI 助手,还发了新模型

NVIDIA 在 GTC 上主推两件事:一是让 AI 助手直接在 RTX 电脑和 DGX Spark 小超算上本地跑,不用联网,隐私和 token 成本都省了。DGX Spark 有 128GB 统一内存,能塞下 120B 参数以上的模型。

推荐理由:NVIDIA 在 GTC 上让 AI 助手直接在 RTX 电脑和 DGX Spark 上本地运行,DGX Spark 的 128GB 统一内存可容纳 120B 参数以上模型,隐私与 token 成本是本地推理的两个落点。

3月10日星期二

NVIDIA 博客

NVIDIA 和 Thinking Machines Lab 签了份长期大单,起步就是 1 吉瓦的算力

NVIDIA 和 Thinking Machines Lab 宣布了一项多年合作,核心是部署至少 1 吉瓦的 NVIDIA Vera Rubin 系统,目标明年年初上线,用来训练前沿模型和搭建可定制的 AI 平台。1 吉瓦这个数字很夸张,相当于一个大型核电站的发电量,说明这不是普通的云服务采购,而是直接锁定了一整座“算力电厂”的产能。

推荐理由:NVIDIA 与 Thinking Machines Lab 达成多年合作,部署至少 1 吉瓦 Vera Rubin 系统训练前沿模型,规模相当于一座大型核电站的发电量。

2月20日星期五

Hugging Face 博客

GGML 和 llama.cpp 团队加入 Hugging Face,本地跑大模型的项目会继续独立运营

Hugging Face 宣布 GGML 和 llama.cpp 的团队正式加入公司。Georgi Gerganov 和他的团队会继续把全部时间花在维护 llama.cpp 上,项目的技术方向和社区管理保持完全独立,不会变成闭源。

推荐理由:GGML 和 llama.cpp 团队加入 Hugging Face,仍全职维护 llama.cpp,技术方向与社区管理保持独立,本地推理核心工程力量由此获得长期支持。

1月6日星期二

NVIDIA 博客

NVIDIA 用 RTX 显卡在本地跑 4K AI 视频生成,显存占用降了 60%

NVIDIA 在 CES 上放出了一套本地 AI 视频生成方案,核心是开源模型 LTX-2 和升级版 ComfyUI。在 GeForce RTX 显卡上,生成速度比之前快 3 倍,显存占用最多能降 60%。这主要靠 PyTorch-CUDA 的底层优化,以及 ComfyUI 原生支持了 NVFP4/FP8 低精度计算。

推荐理由:NVIDIA 在 CES 发布本地 AI 视频生成方案,靠 PyTorch-CUDA 优化和 ComfyUI 支持低精度计算,在 RTX 显卡上把生成速度提升 3 倍、显存占用最多降低 60%。

NVIDIA 博客

NVIDIA 在 CES 2026 说 Rubin 平台已量产,跑大模型的成本能降到上一代的十分之一

NVIDIA 在 CES 2026 上宣布,由六颗芯片组成的 Rubin AI 平台已经进入全面量产。最直接的好处是生成 token 的成本能压到上一代平台的十分之一左右。Rubin 的 GPU 在 NVFP4 精度下推理算力达到 50 petaflops,并且通过一个叫 KV-cache 的存储层把性能又提升了 5 倍。

推荐理由:NVIDIA 在 CES 2026 宣布 Rubin AI 平台全面量产,六颗芯片组成,生成 token 成本压到上一代约十分之一,GPU 在 NVFP4 精度下推理算力达 50 petaflops。

NVIDIA 博客

英伟达预告基于 Rubin 架构的 DGX SuperPOD,单柜 260TB/s 带宽,推理成本号称能降 10 倍

英伟达在博客里公布了下一代 DGX SuperPOD 的规划,核心是换装 Rubin GPU。今年下半年会先出两款机型:DGX Vera Rubin NVL72 和 DGX Rubin NVL8。

推荐理由:英伟达公布下一代 DGX SuperPOD 规划,下半年先推出搭载 Rubin GPU 的两款机型,单柜 260TB/s 带宽与推理成本降 10 倍的说法给出了下一代系统的性能预期。

2025年12月17日星期三

Mistral AI

Mistral 发布 OCR 3,表单与手写识别升级并接入 Document AI Playground

Mistral 发布 Mistral OCR 3,在表单、扫描文档、复杂表格和手写内容上相对 Mistral OCR 2 取得 74% 的整体胜率,并称准确率超过企业文档处理方案和 AI 原生 OCR 方案。

推荐理由:Mistral OCR 3 在表单、手写和复杂表格上的升级与每千页 2 美元的定价,可供评估文档解析方案时参考。

2025年10月13日星期一

OpenAI News

OpenAI 和博通联手,计划到 2029 年部署 10 吉瓦的自研 AI 加速器

OpenAI 自己设计芯片和系统,博通负责把加速器、以太网、PCIe 和光纤网络打包成整机柜,从 2026 年下半年开始上架,2029 年底前完成全部 10 吉瓦的部署。10 吉瓦这个数字很大,说明 OpenAI 在为未来几年的算力需求提前铺路,而且明确走自研芯片加全以太网集群的路线,不再只依赖英伟达。

推荐理由:OpenAI 与博通合作部署 10 吉瓦自研 AI 加速器,博通负责网络与互连整机柜,2026 年下半年开始上架,2029 年底前完成,这条给出了 OpenAI 自研芯片加全以太网集群的算力路线。

2025年10月1日星期三

OpenAI News

三星和SK海力士加入OpenAI的星门计划,要猛扩AI芯片产能

OpenAI在10月1日宣布,三星和SK海力士正式加入它的星门(Stargate)AI基建项目。合作的核心是两件事:一是三星电子和SK海力士计划把先进内存芯片的产能拉到每月90万片DRAM晶圆,用来喂饱OpenAI的下一代模型;二是OpenAI跟韩国科技部、SK电讯、三星物产等签了一堆协议,打算在首尔圈外找地方建AI数据中心。

推荐理由:三星和SK海力士加入OpenAI星门项目,计划将先进内存芯片产能扩至每月90万片DRAM晶圆,并签署在首尔圈外建设AI数据中心的协议。

2025年9月23日星期二

OpenAI News

OpenAI、Oracle 和软银给 Stargate 加了五个新数据中心选址,总规划容量接近 7 吉瓦

Stargate 项目在美国新增了五个 AI 数据中心选址,加上已有的德州 Abilene 旗舰园区和与 CoreWeave 的合作,总规划容量接近 7 吉瓦,三年内投资超过 4000 亿美元。这让他们有望在 2025 年底前提前锁定最初承诺的 5000 亿美元、10 吉瓦目标。

推荐理由:Stargate 在美国新增五个数据中心选址,规划容量接近 7 吉瓦,三年投资超 4000 亿美元,AI 基建的扩张节奏由此有了具体刻度。

2025年9月22日星期一

OpenAI News

OpenAI 和英伟达签了份意向书,要一起搞 10 吉瓦的算力基建

OpenAI 和英伟达宣布了一份合作意向书,计划部署至少 10 吉瓦的英伟达系统,用来训练和跑 OpenAI 的下一代模型。10 吉瓦是什么概念?大概对应几百万张 GPU 的规模。英伟达打算按部署进度分批投钱,总额最高 1000 亿美元。第一阶段 1 吉瓦预计 2026 年下半年上线,会用英伟达新的 Vera Rubin 平台。

推荐理由:OpenAI 与英伟达签署意向书,计划分阶段部署至少 10 吉瓦算力系统,最高投资 1000 亿美元,首期 1 吉瓦定于 2026 年下半年上线。

2025年8月7日星期四

OpenAI News

OpenAI 发布 GPT-5 系统卡,把快模型和思考模型打包成一个系统,用实时路由自动分配任务

OpenAI 在 8 月 7 日公开了 GPT-5 系统卡。GPT-5 不是一个单一模型,而是一套组合:一个叫 gpt-5-main 的快模型负责回答大多数问题,一个叫 gpt-5-thinking 的深度推理模型处理难题,中间靠一个实时路由器根据对话类型、复杂度和用户意图(比如你说“仔细想想”)来决定调用谁。

推荐理由:OpenAI 公开 GPT-5 系统卡,披露它由快模型、深度推理模型和实时路由器组成,路由器按对话类型与复杂度分配任务,多模型系统的工程组织方式由此有了具体样本。

2025年8月5日星期二

OpenAI News

OpenAI 开源了两个新模型 gpt-oss-120b 和 gpt-oss-20b,用 Apache 2.0 协议,主打低成本部署和强推理能力

OpenAI 发了两个开源模型,大的叫 gpt-oss-120b,小的叫 gpt-oss-20b,都用了 Apache 2.0 协议,可以商用。这两个模型是 OpenAI 自 GPT-2 之后第一次开源的语言模型。它们用了混合专家架构,120B 版本总参数 1170 亿,但每次只激活 51 亿参数,一张 80GB 显存的显卡就能跑。

推荐理由:OpenAI 以 Apache 2.0 协议开源 gpt-oss-120b 和 gpt-oss-20b,是自 GPT-2 后再次开放语言模型权重,其中 120B 版单卡 80GB 显存即可运行。

2025年7月31日星期四

OpenAI News

OpenAI 在挪威建首个欧洲数据中心,计划 2026 年底塞进 10 万张英伟达 GPU

OpenAI 宣布了它在欧洲的第一个数据中心项目 Stargate Norway,选址在挪威的纳尔维克。这个项目由 Nscale 和 Aker 两家公司合资建设,初期规划供电容量 230 兆瓦,远期还想再扩 290 兆瓦。目标是到 2026 年底部署 10 万张英伟达 GPU,全部用可再生能源和直接到芯片的闭路液冷散热。

推荐理由:OpenAI 在挪威纳尔维克启动欧洲数据中心,由 Nscale 与 Aker 合资,初期供电 230 兆瓦,目标 2026 年底部署 10 万张英伟达 GPU,全部使用可再生能源与芯片级液冷。

2025年7月30日星期三

Mistral AI

Mistral 发布 Codestral 25.08 与企业级编码栈

Mistral AI 发布 Codestral 25.08,并推出面向企业的完整编码栈,包含 Codestral、Codestral Embed、Devstral 与 Mistral Code IDE 插件。

推荐理由:Mistral 发布 Codestral 25.08 并推出覆盖补全、检索与 IDE 插件的企业编码栈,模型支持云端、VPC 与本地部署,补全采纳率提升 30%。

2025年7月22日星期二

OpenAI News

OpenAI 与 Oracle 签下 4.5 GW 数据中心协议,Stargate 总规划容量已超 5 GW

OpenAI 和 Oracle 达成新协议,要在美国再建 4.5 GW(吉瓦)的 Stargate 数据中心。加上得州 Abilene 已在运行的 Stargate I 站点,Stargate 在建总容量超过 5 GW,能装下超过 200 万颗芯片。Abilene 那边已经收到首批 Nvidia GB200 机柜,开始跑早期训练和推理任务了。

推荐理由:OpenAI 与 Oracle 新签 4.5 GW 数据中心协议,加上得州 Abilene 已运行站点,Stargate 在建容量超过 5 GW,可容纳逾 200 万颗芯片。

2025年6月4日星期三

Mistral AI

Mistral AI 发布企业级编码助手 Mistral Code

Mistral AI 发布企业级 AI 编码助手 Mistral Code,整合 Codestral、Codestral Embed、Devstral 和 Mistral Medium 四个模型,支持云端、专属容量或本地 GPU 气隙部署,代码保留在企业边界内。

推荐理由:Mistral AI 将四个编码模型与本地部署、管理控制台打包成企业级助手,西班牙银行 Abanca 与法国国铁 SNCF 已分别以混合配置和 Serverless 方式落地。

2025年5月22日星期四

OpenAI News

OpenAI 把 Stargate 项目首次搬到海外,在阿联酋建 1GW 算力集群

OpenAI 宣布与 G42、Oracle、英伟达、思科和软银合作,在阿布扎比启动 Stargate UAE,这是 Stargate 算力基建项目第一次在美国之外落地。整个站点规划总容量 1GW,其中 200MW 预计 2026 年上线。

推荐理由:OpenAI 联合 G42、Oracle、英伟达等企业在阿布扎比启动 Stargate UAE,这是该项目首次在美国之外落地,规划总容量 1GW,其中 200MW 预计 2026 年上线。

2025年5月8日星期四

OpenAI News

OpenAI 向美国能源部提交 AI 基建方案,核心是催联邦政府出地、加速审批、给钱

OpenAI 在 5 月 7 日公开了对美国能源部的回应,核心诉求就三条:联邦土地拿出来建 AI 超算园区、审批流程要走快速通道、用优惠电价和税收减免帮私人投资兜底。第一个 Stargate 园区已经在得州 Abilene 动工,更多选址还在得州和其他州评估,但具体租金、电价折扣、税收条款正文都没披露。

推荐理由:OpenAI 向美国能源部提出联邦供地、加速审批和电价税收优惠三项诉求,得州 Abilene 的 Stargate 园区已动工,呈现 AI 算力扩张与联邦能源政策衔接的具体路径。

2025年5月7日星期三

Mistral AI

Mistral AI 推出 Le Chat Enterprise,由 Mistral Medium 3 驱动

Mistral AI 发布 Le Chat Enterprise,一款由全新 Mistral Medium 3 模型驱动的企业级 AI 助手,包含企业搜索、Agent 构建器、自定义数据与工具连接器、文档库、自定义模型和混合部署等功能,全部功能将在未来两周内逐步上线。

推荐理由:Mistral AI 发布企业级 AI 助手 Le Chat Enterprise,由 Mistral Medium 3 模型驱动,支持企业搜索、Agent 构建与自托管部署,全部功能将在两周内上线。

Mistral AI

Mistral AI 发布 Mistral Medium 3,主打低成本与企业部署

Mistral AI 发布 Mistral Medium 3,称其在各项基准上达到或超过 Claude Sonnet 3.7 的 90%,成本为每百万 token 输入 $0.4、输出 $2。

推荐理由:Mistral Medium 3 以更低成本对标 Claude Sonnet 3.7,并给出企业私有化部署与定制路径。

2025年3月31日星期一

OpenAI News

OpenAI 拿了 400 亿美元新融资,估值冲到 3000 亿

OpenAI 宣布完成 400 亿美元融资,投后估值 3000 亿美元。这笔钱主要用来扩建算力基础设施,以及给每周 5 亿人用的 ChatGPT 开发更强功能。软银是这轮的关键合作方。公告没提钱分几批到账、有没有对赌条款,也没说具体产品路线图,AGI 的说法比较笼统。

推荐理由:OpenAI 完成 400 亿美元融资,投后估值 3000 亿美元,资金主要投向算力基础设施和 ChatGPT 功能开发,软银是这轮的关键合作方。

2025年2月7日星期五

Mistral AI

Mistral AI 推出新版 le Chat,上线移动端及 Pro、Team 服务

Mistral AI 推出新版 le Chat,上线 iOS、Android 应用及 Pro、Team 服务,并开放 Enterprise 私有预览。新版提供代码解释器、文档分析和图像生成,Flash Answers 向所有用户开放预览,官方称速度可达 ~1000 words / sec;多数功能免费,Pro 起价为 $14.99 per month。

推荐理由:Mistral AI 为 le Chat 增加移动端和企业部署选项,让个人日常使用与企业自有环境中的工作接入有了不同入口。

2025年1月30日星期四

Mistral AI

Mistral AI 发布 Mistral Small 3,24B 模型采用 Apache 2.0 许可

Mistral AI 发布面向低延迟任务的 24B 模型 Mistral Small 3,以 Apache 2.0 许可开放预训练和指令微调检查点。官方称其性能与 Llama 3.3 70B instruct 相当,同硬件下速度超过 3x,MMLU 准确率超过 81%;模型未使用 RL 或合成数据训练。

推荐理由:Mistral AI 将 Small 3 的性能对标 Llama 3.3 70B,并报告同硬件下超过 3x 的速度优势。

2024年10月23日星期三

OpenAI News

OpenAI 把一致性模型简化并扩展到 15 亿参数,两步出图,质量追平扩散模型

OpenAI 发了个新方法叫 sCM,把连续时间一致性模型的训练搞稳定了,直接扩到 15 亿参数,在 512×512 的 ImageNet 上跑。它只用两步采样,出图质量就能跟现在最好的扩散模型打平,单张 A100 上 0.11 秒出一张图,比扩散模型快大约 50 倍。论文里对比了有效算力,sCM 花不到 10% 的算力就拿到差不多的 FID 分数。

推荐理由:OpenAI 把连续时间一致性模型扩到 15 亿参数,两步采样在 ImageNet 512×512 上质量追平扩散模型,单张 A100 出图 0.11 秒,算力不到扩散模型 10%。