AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。
OpenAI 给 GPT-4o、GPT-4o mini、o1-preview 和 o1-mini 的 API 加上了自动提示词缓存。只要你的请求里有一段超过 1024 个 token 的前缀最近被用过，系统就会自动命中缓存，这部分输入 token 的价格直接减半。缓存从 1024 token 起步，按 128 token 的粒度往上加。
推荐理由：OpenAI 为 GPT-4o、o1 等模型的 API 加入自动提示词缓存，超过 1024 token 的重复前缀可让输入费用减半，长上下文与固定系统提示场景的成本结构随之改变。
OpenAI 在 9 月 26 日上线了新的审核模型 omni-moderation-latest，基于 GPT-4o，所有开发者都能免费用。它最大的变化是能审图片了，覆盖暴力、自残、色情这 6 个子类，不过色情类里涉及未成年人的图片暂时还审不了。文字审核新增了“违法”和“违法/暴力”两个类别，比如“怎么偷东西”这种教人干坏事的提示词会被抓出来。
推荐理由：OpenAI 上线基于 GPT-4o 的 omni-moderation-latest 审核模型并免费开放，新增图片审核与违法类文字识别，多模态内容审核的覆盖范围由此扩展。
o1-mini 是 OpenAI 在 2024 年 9 月 12 日发布的小号推理模型，先开放给 Tier 5 API 用户和付费 ChatGPT 用户。它最大的卖点是便宜：API 调用成本只有 o1-preview 的两成。
推荐理由：OpenAI 发布推理模型 o1-mini，API 调用成本为 o1-preview 的两成，先向付费 ChatGPT 用户和 Tier 5 API 用户开放，价格与能力的取舍是这条的核心信息。
OpenAI 把 GPT-4o 的微调权限开放给所有付费开发者了。训练价格是每百万 token 25 美元，用微调后的模型跑推理，输入每百万 token 3.75 美元，输出每百万 token 15 美元。到 9 月 23 日为止，每个组织每天能免费拿到 100 万训练 token。
推荐理由：OpenAI 向所有付费开发者开放 GPT-4o 微调，训练每百万 token 25 美元，9 月 23 日前每个组织每天可领 100 万免费训练 token。
OpenAI 在 2024 年 8 月 6 日上线了 Structured Outputs 功能，模型能严格按开发者提供的 JSON Schema 输出，不再只是生成合法 JSON 就完事。新模型 gpt-4o-2024-08-06 在复杂 schema 测试里拿了 100% 的准确率，而老模型 gpt-4-0613 不到 40%。
推荐理由：OpenAI 上线 Structured Outputs，让模型严格按开发者给的 JSON Schema 输出，新模型在复杂 schema 测试中准确率 100%，旧模型不到 40%。
DeepSeek API 上线硬盘缓存技术，价格再降一个数量级。更新详情见文档 https://api-docs.deepseek.com/zh-cn/updates#api-上线硬盘缓存技术 。
推荐理由：DeepSeek API 采用硬盘缓存并将价格再降一个数量级，使这项缓存技术更新的直接影响落在 API 使用价格上。
OpenAI 在 7 月 25 号开始小范围测试 SearchGPT，一个临时上线的 AI 搜索原型。它直接用对话形式返回带实时信息的答案，每条信息都附有内联的出处标注，侧边栏还会列出更多来源链接，方便你点进去核实。这个原型目前只开放给一小部分用户和出版商试用，目的是收集反馈。官方明确说这只是个过渡产品，未来会把好用的功能整合进 ChatGPT 里。
推荐理由：OpenAI 小范围测试 SearchGPT 原型，以对话返回实时信息并附内联出处和侧边栏来源链接，后续功能将整合进 ChatGPT。
Meta 在 Hugging Face 上放出了 Llama 3.1，一共三个尺寸：8B、70B 和 405B。8B 适合在消费级显卡上跑，70B 给大规模 AI 应用，405B 主要用来做合成数据、让模型当裁判或者蒸馏小模型。每个尺寸都有基础版和指令微调版。这次还多了两个安全模型：Prompt Guard 是个小分类器，用来检测提示注入和越狱攻击。
推荐理由：Meta 在 Hugging Face 放出 Llama 3.1 的 8B、70B、405B 三个尺寸，405B 的用途是合成数据、模型裁判和蒸馏小模型，为关注开源模型分工的人提供一份具体参照。
OpenAI 在 7 月 18 日推出了 GPT-4o mini，直接替换掉 ChatGPT 里的 GPT-3.5。价格是输入每百万 token 0.15 美元、输出 0.6 美元，比 GPT-3.5 Turbo 便宜了超过 60%。
推荐理由：GPT-4o mini 以输入每百万 token 0.15 美元的价格替换 ChatGPT 中的 GPT-3.5，比后者便宜超过六成，同时 API 引入指令层级防越狱。
OpenAI 在 2024 年 7 月 18 日推出了企业合规 API，让公司能导出带时间戳的对话、文件、GPT 配置、记忆和用户记录，主要给金融、医疗、法律这些强监管行业做审计和归档用。同时接入了 Forcepoint、Microsoft Purview、Netskope 等八家第三方合规厂商，方便做数据防泄漏和法务留存。
推荐理由：OpenAI 为企业版 ChatGPT 推出合规 API，可导出带时间戳的对话、文件与用户记录，并接入八家第三方合规厂商，面向金融医疗法律等强监管行业的审计归档需求。
OpenAI 宣布免费版 ChatGPT 也能用上最新的旗舰模型 GPT-4o，同时还会逐步解锁联网搜索、数据分析画图表、上传文件、聊照片、用 GPTs 商店和记忆功能。GPT-4o 在文字、语音和图片理解上都比前代更快，但免费用户有使用次数限制，用完了会自动切回 GPT-3.5。
推荐理由：OpenAI 将旗舰模型 GPT-4o 及联网搜索、文件上传、数据分析等工具开放给免费用户，同时保留使用次数限制，超出后回落到 GPT-3.5。
OpenAI 宣布 GPT-4 API 向所有付费开发者开放，同时给旧版 Completions API 模型判了死缓：2024 年 1 月 4 日起，ada、babbage、curie、davinci 等老模型将彻底停用，用户需要迁移到新的替代模型上。
推荐理由：OpenAI 将 GPT-4 API 开放给所有付费开发者，同时宣布 ada、babbage、curie、davinci 等旧版补全模型于 2024 年 1 月 4 日停用，开发者需在此之前完成迁移。
OpenAI 给 ChatGPT 加了一个记忆功能，不再每次对话都像第一次见面。它会记住你主动告诉它的事，也会自己从聊天里抓取细节，比如你喜欢的会议纪要格式、你开的咖啡店、你家小孩喜欢水母。这些记忆会跨对话保留，用越多越懂你。控制权在你手里：可以在设置里关掉整个记忆，也可以直接对话让它忘掉某件事，或者用临时对话模式完全不记。
推荐理由：OpenAI 为 ChatGPT 加入跨对话记忆，能记住用户偏好和聊天细节，同时提供关闭记忆、让它遗忘和临时对话三种控制方式。
OpenAI 给 ChatGPT 加了语音和图片功能。语音部分，你对着手机说话它能回你，背后用了一个新的文字转语音模型，拿几秒真人录音就能合成很像人的声音，还接入了自家的 Whisper 做语音识别。图片部分，你可以拍照或截图发给它，让它看图说话，底层是 GPT-3.5 和 GPT-4 的多模态版本。
推荐理由：OpenAI 为 ChatGPT 加入语音对话与图片理解，语音合成用几秒真人录音即可生成相似声音，图片部分基于 GPT-3.5 和 GPT-4 的多模态版本。