Mistral 发布 Codestral 25.08 与企业级编码栈
Mistral AI 发布 Codestral 25.08,并推出面向企业的完整编码栈,包含 Codestral、Codestral Embed、Devstral 与 Mistral Code IDE 插件。
推荐理由:Mistral 发布 Codestral 25.08 并推出覆盖补全、检索与 IDE 插件的企业编码栈,模型支持云端、VPC 与本地部署,补全采纳率提升 30%。
Mistral AI 发布 Codestral 25.08,并推出面向企业的完整编码栈,包含 Codestral、Codestral Embed、Devstral 与 Mistral Code IDE 插件。
推荐理由:Mistral 发布 Codestral 25.08 并推出覆盖补全、检索与 IDE 插件的企业编码栈,模型支持云端、VPC 与本地部署,补全采纳率提升 30%。
Mistral 发布 Voxtral 语音理解模型,提供 24B 和 3B 两个版本,均以 Apache 2.0 许可开源并上线 API。模型支持 32k token 上下文,可处理最长 30 分钟转写或 40 分钟理解,具备内置问答与摘要、多语言识别和语音函数调用能力,并保留 Mistral Small 3.1 的文本能力。
推荐理由:Mistral 开源两款语音理解模型,给出 32k 上下文、函数调用等能力与低于同类 API 一半的定价,便于评估语音方案选型。
Mistral AI 与 All Hands AI 合作推出 Devstral Medium,并升级 Devstral Small 1.1。
推荐理由:Mistral 与 All Hands AI 联合发布 Devstral Medium 并升级 Devstral Small 1.1,后者以 Apache 2.0 许可开放,前者在 SWE-Bench Verified 上得分 61.6%,API 定价为每百万输入 0.4 美元、输出 2 美元。
Mistral AI 发布首款推理模型 Magistral,分为 24B 参数的开源版 Magistral Small 和企业版 Magistral Medium。
推荐理由:Mistral AI 推出推理模型 Magistral,同时给出 24B 开源版与企业版,并披露两者在 AIME2024 上的得分,可比较开源与商用版本的性能差距。
deepseek-reasoner 升级为 DeepSeek-R1-0528,增强推理能力、优化 Web 前端生成、降低幻觉,并支持 Json Output 与 Function Calling。
推荐理由:DeepSeek-R1-0528 提升了推理基准表现,复杂推理问题比老版本 R1 使用更多 tokens,能力提升伴随生成用量增加。
Mistral AI 与 All Hands AI 合作发布面向软件工程任务的智能体 LLM Devstral,以 Apache 2.0 许可开源,在 SWE-Bench Verified 上得分 46.8%,比此前开源 SOTA 模型高出 6 个百分点以上。
推荐理由:Mistral 与 All Hands AI 联合发布的智能体编码模型,给出了 SWE-Bench Verified 成绩与本地部署门槛。
Mistral AI 发布 Mistral Medium 3,称其在各项基准上达到或超过 Claude Sonnet 3.7 的 90%,成本为每百万 token 输入 $0.4、输出 $2。
推荐理由:Mistral Medium 3 以更低成本对标 Claude Sonnet 3.7,并给出企业私有化部署与定制路径。
deepseek-chat 模型升级为 DeepSeek-V3-0324,增强推理、前端开发、中文写作与 Function Calling 能力。MMLU-Pro 从 75.9 提升至 81.2,GPQA 从 59.1 提升至 68.4,AIME 从 39.6 提升至 59.4,LiveCodeBench 从 39.2 提升至 49.2。
推荐理由:DeepSeek-V3-0324 在四项基准中均有提升,AIME 增幅为 19.8,高于知识与代码基准的增幅。
Mistral AI 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能、多模态理解,并将上下文窗口扩展至 128k tokens,推理速度达 150 tokens per second,以 Apache 2.0 许可开源。
推荐理由:Mistral AI 以 Apache 2.0 许可开源 Mistral Small 3.1,将上下文扩至 128k tokens 并加入多模态理解,可在单张 RTX 4090 或 32GB 内存的 Mac 上运行。
Gemma 3 是谷歌最新放出的开放权重模型,有 1B、4B、12B、27B 四个尺寸。4B 及以上的版本能同时处理图片和文字,支持超过 140 种语言,上下文窗口拉到 128k token(1B 是 32k)。官方说 4B 的指令版在跑分上能打赢上一代 27B,27B 则超过了 Gemini 1.5 Pro。
推荐理由:谷歌放出 Gemma 3 开放权重模型,4B 及以上版本同时处理图文并支持超 140 种语言,官方称 4B 指令版跑分超过上一代 27B。
Mistral AI 发布面向低延迟任务的 24B 模型 Mistral Small 3,以 Apache 2.0 许可开放预训练和指令微调检查点。官方称其性能与 Llama 3.3 70B instruct 相当,同硬件下速度超过 3x,MMLU 准确率超过 81%;模型未使用 RL 或合成数据训练。
推荐理由:Mistral AI 将 Small 3 的性能对标 Llama 3.3 70B,并报告同硬件下超过 3x 的速度优势。
DeepSeek 发布新模型 DeepSeek-R1,可通过指定 model=deepseek-reasoner 调用。详细更新和调用指南分别参见《DeepSeek-R1 正式发布》和《推理模型》。
推荐理由:DeepSeek 明确了新模型 DeepSeek-R1 与 API 调用名的对应关系,接入时需指定 model=deepseek-reasoner。
deepseek-chat 模型升级为 DeepSeek-V3,接口保持不变。可通过指定 model=deepseek-chat 调用,详细更新请参考《DeepSeek-V3 正式发布》。
推荐理由:DeepSeek 将 deepseek-chat 升级为 DeepSeek-V3 并保持接口不变,现有接入可沿用原模型调用参数。
OpenAI 10 月 1 号在自家 API 里推了一套模型蒸馏工具,核心思路是:先用 GPT-4o 或 o1-preview 这类大模型跑出结果,再用这些结果去微调 GPT-4o mini 这种便宜模型,让它在特定任务上接近大模型的表现,但成本更低。
推荐理由:OpenAI 把模型蒸馏做成 API 内置流程,用 GPT-4o 或 o1-preview 的输出微调 GPT-4o mini,让团队不必自建这套流水线就能压低特定任务的推理成本。
OpenAI 在 9 月 12 日推出了 o1-preview 和 o1-mini 两个新模型,主打“先思考再回答”。在数学奥赛预选题上,GPT-4o 正确率只有 13%,o1 推理模型做到了 83%,编程能力也到了 Codeforces 前 11%。
推荐理由:OpenAI 推出 o1-preview 和 o1-mini,主打先思考再回答,数学奥赛预选题正确率从 GPT-4o 的 13% 提升到 83%,编程达到 Codeforces 前 11%。
DeepSeek V2 Chat 与 DeepSeek Coder V2 已合并升级为 DeepSeek V2.5,API 用户通过 deepseek-coder 或 deepseek-chat 均可访问新模型。
推荐理由:DeepSeek 将聊天与代码模型合并为 V2.5,并保留两个原有 API 访问名称以兼容既有用户的调用方式。
deepseek-chat 模型升级为 DeepSeek-V2-0628,推理能力提升,角色扮演能力显著增强。HumanEval Pass@1 从 79.88% 提升至 84.76%,MATH ACC@1 从 55.02% 提升至 71.02%,BBH 从 78.56% 提升至 83.40%。
推荐理由:DeepSeek 升级后的数学基准提升幅度高于代码与推理基准,在 Arena-Hard 中对 GPT-4-0314 的胜率也有提升。
deepseek-coder 模型升级为 DeepSeek-Coder-V2-0614,代码能力显著提升。官方称,其代码生成、代码理解、代码修复和代码补全能力达到 GPT-4-Turbo-0409 的水平,并拥有卓越的数学和推理能力,通用能力与 DeepSeek-V2-0517 持平。
推荐理由:DeepSeek 升级代码模型,将代码生成、理解、修复和补全四项能力对标 GPT-4-Turbo-0409。