跳到正文

#OpenAI

今日 4 条

2025年1月31日星期五

OpenAI News

OpenAI 发布 o3-mini,一个更便宜、更快的推理模型,专攻数理化和编程

OpenAI 在 1 月 31 号把 o3-mini 放到了 ChatGPT 和 API 里,这是他们推理系列里目前成本最低的模型。它主打 STEM(科学、数学、编程),速度比 o1-mini 快,Plus 和 Team 用户的每日使用额度也从 50 条提到了 150 条。

推荐理由:OpenAI 将 o3-mini 上线 ChatGPT 和 API,主打数理化与编程,速度比 o1-mini 更快,Plus 和 Team 用户每日额度从 50 条提到 150 条。

OpenAI News

OpenAI 发布 o3-mini 系统卡:整体风险定级为“中”,模型自主性首次达到“中”

OpenAI 给 o3-mini 的最终安全评分是“中”等风险,其中在生化核辐射、说服力和模型自主性这三项上都是“中”,网络安全是“低”。这是 OpenAI 第一个在“模型自主性”上拿到“中”的模型,主要因为它的编程和研究工程能力更强了。但别急着慌,系统卡里说它在“现实世界机器学习自我改进”的测试里表现还很差,没达到“高”风险的门槛。

推荐理由:OpenAI 在 o3-mini 系统卡中把整体风险定为中,模型自主性也达到中,这是判断该模型部署与后续开发风险边界的一份官方依据。

2025年1月30日星期四

OpenAI News

OpenAI 把 o 系列推理模型部署到美国国家实验室的超算上,先给 1.5 万名科学家用

OpenAI 在 2025 年 1 月 30 日宣布跟美国国家实验室签了协议,把 o1 或另一款 o 系列模型部署在洛斯阿拉莫斯实验室的 Venado 超算上。这台超算用的是 NVIDIA 芯片,会作为共享资源开放给洛斯阿拉莫斯、劳伦斯利弗莫尔和桑迪亚三个国家实验室的大约 1.5 万名科学家。

推荐理由:OpenAI 把 o 系列推理模型部署到洛斯阿拉莫斯实验室的 Venado 超算,向三家国家实验室约 1.5 万名科学家开放共享,这是推理模型进入国家级科研算力设施的一次具体落地。

2025年1月28日星期二

OpenAI News

OpenAI 给美国政府做了个专用版 ChatGPT,叫 ChatGPT Gov

OpenAI 在 2025 年 1 月 28 日发布了 ChatGPT Gov,专门给美国联邦、州和地方机构用。这个版本可以部署在机构自己的微软 Azure 商业云或政府云上,让 IT 部门自己管安全、隐私和合规,比如满足 IL5、CJIS、ITAR 和 FedRAMP High 这类严格的安全框架。

推荐理由:OpenAI 推出面向美国联邦、州和地方机构的 ChatGPT Gov,可部署在机构自有的 Azure 商业云或政府云上,由 IT 部门自行管理安全、隐私与合规。

2025年1月23日星期四

OpenAI News

OpenAI 发布 Operator 系统卡:一个能替你操作电脑的智能体,但高风险操作会强制让人确认

OpenAI 在 2025 年 1 月 23 日公开了 Operator 的安全评估报告。Operator 是一个能看懂屏幕截图、像人一样点击按钮和菜单的电脑操作智能体,底层结合了 GPT-4o 的视觉能力和强化学习训练出的推理纠错能力。

推荐理由:OpenAI 公开 Operator 系统卡,将部署门槛定在缓解后 Medium 以下,并规定金融交易、发邮件、删日程等高风险操作需人工确认,买卖股票则直接禁止。

OpenAI News

OpenAI 发布能直接操作电脑的智能体 CUA,先在美国给 Pro 用户用

OpenAI 在 2025 年 1 月 23 日放出了一个研究预览版智能体,叫 CUA(Computer-Using Agent)。它把 GPT-4o 的视觉能力和强化学习训出来的推理能力揉在一起,不看代码接口,直接像人一样看屏幕截图、用虚拟鼠标键盘来操作图形界面。

推荐理由:OpenAI 发布研究预览版智能体 CUA,靠视觉和强化学习直接看屏幕截图、用虚拟鼠标键盘操作图形界面,先向美国 ChatGPT Pro 用户开放。

OpenAI News

OpenAI 发布 Operator:一个能自己打开浏览器帮你干活的研究预览版

Operator 是一个能自己操控浏览器的 AI 代理,可以看网页、点击、打字、滚动,帮你填表、买菜、做 meme。它背后是一个叫 CUA 的新模型,把 GPT-4o 的视觉能力和强化学习推理结合起来,直接操作屏幕上的按钮和菜单,不需要对方网站提供 API。遇到登录、付款、验证码,它会主动把控制权交还给你,不会偷看或截图这些敏感信息。

推荐理由:OpenAI 发布 Operator 研究预览版,其 CUA 模型直接操控浏览器按钮和菜单,无需网站提供 API,遇到登录、付款和验证码时会把控制权交还用户。

2025年1月22日星期三

OpenAI News

OpenAI 发现:让 o1 系列模型多想一会儿,对抗攻击成功率会大幅下降

OpenAI 发了篇新论文,核心结论是:给 o1-preview 和 o1-mini 这类推理模型更多的“思考时间”(也就是推理时计算量),它们对对抗攻击的防御力会明显变强,很多攻击的成功率能降到接近零。他们测了数学题、SimpleQA 的提示注入、Attack Bard 的对抗图片,还有 StrongREJECT 的越狱提示词。

推荐理由:OpenAI 测试了 o1-preview 和 o1-mini 在数学题、提示注入、对抗图片和越狱提示词上的表现,增加推理时计算量后攻击成功率大幅下降。

2025年1月21日星期二

OpenAI News

OpenAI 拉上软银、甲骨文成立 Stargate,四年要砸 5000 亿美元建 AI 算力

OpenAI、软银、甲骨文和 MGX 联合成立了一家叫 Stargate 的新公司,计划未来四年在美国投 5000 亿美元建 AI 基础设施,首批 1000 亿美元已经启动。软银管钱,OpenAI 管运营,孙正义当董事长。目前得克萨斯州已经开始动工,Arm、微软、英伟达和甲骨文是首批技术合作方。

推荐理由:OpenAI 与软银、甲骨文等成立 Stargate,四年计划投入 5000 亿美元建 AI 基础设施,软银负责资金、OpenAI 负责运营,首批 1000 亿美元已启动。

2025年1月15日星期三

OpenAI News

OpenAI 和 Axios 达成内容合作,还出钱帮它在美国四个城市扩张本地新闻

OpenAI 宣布跟 Axios 签了内容合作协议,同时提供资金,帮 Axios 把本地新闻业务开到匹兹堡、堪萨斯城、博尔德和亨茨维尔这四个新城市。OpenAI 说现在合作的媒体机构接近 20 家,覆盖 160 多个新闻出口、几百个内容品牌和 20 多种语言。ChatGPT 的搜索功能会展示合作方的摘要、节选、出处和原文链接。

推荐理由:OpenAI 与 Axios 签约并出资支持其本地新闻扩至四个城市,同时披露合作媒体已近 20 家、覆盖 160 多个新闻出口,呈现 AI 搜索引用与媒体内容分发的当前规模。

2025年1月14日星期二

OpenAI News

OpenAI 董事会新添一位基础设施投资大佬 Adebayo Ogunlesi

OpenAI 在 2025 年 1 月 14 日宣布,全球基础设施合伙公司(GIP)的创始合伙人兼 CEO、贝莱德高级董事总经理 Adebayo Ogunlesi 加入其董事会。

推荐理由:OpenAI 任命基础设施投资背景的 Adebayo Ogunlesi 进入董事会,其全球基建与资本运作经验对应着公司大规模算力建设的需求。

2025年1月13日星期一

OpenAI News

OpenAI 发布经济蓝图,核心是呼吁美国搞全国统一的 AI 规则,别让各州各管各的

OpenAI 在 2025 年 1 月 13 日发了份政策文件,不是讲新产品,而是给美国政府提要求。他们认为 AI 的竞争关键是芯片、数据、能源和人才,并提到全球有 1750 亿美元在找 AI 项目投,美国不接住就会流向中国。文件最核心的主张是反对各州自己立法,要求搞一套全国通行的规则,理由是碎片化监管会拖慢创新。

推荐理由:OpenAI 向美国政府提交政策文件,主张以联邦统一规则替代各州分散立法,并称全球有 1750 亿美元在寻找 AI 项目。这条呈现的是美国 AI 监管路径的行业诉求。

2024年12月27日星期五

OpenAI News

OpenAI 说非营利架构撑不住了,得改公司结构才能继续搞 AGI

OpenAI 董事会正在评估调整公司结构,核心原因是钱不够烧了。他们 2019 年预估搞 AGI 大概要 100 亿美元,现在发现大厂们都在砸几千亿,自己靠捐赠和非营利控股的混合模式根本融不到这个量级的钱。文章说,投资人愿意投,但到了这种资金规模,人家要的是常规股权,不是定制化的利润上限条款。

推荐理由:OpenAI 董事会正评估调整公司结构,原因是 2019 年预估的 100 亿美元已远不够支撑 AGI,而投资人在这类资金规模下要求常规股权而非利润上限条款。

2024年12月20日星期五

OpenAI News

OpenAI 公布 deliberative alignment:让模型先读安全规范再推理,o1 在安全基准上超过 GPT-4o

OpenAI 在 12 月 20 日介绍了 deliberative alignment,一种直接让推理模型学习人类写的安全规范文本,并在回答前先对着规范做推理的训练方法。o 系列模型用上了这套方法,推理时会在思维链里调取内部政策、判断请求是否违规,再给出回复。整个过程不需要人工标注思维链或答案。

推荐理由:OpenAI 让 o 系列模型在回答前先调取内部安全规范做推理,训练过程无需人工标注思维链,o1 在安全基准上超过 GPT-4o。

2024年12月17日星期二

OpenAI News

OpenAI 把 o1 模型放进 API 了,还顺手给实时语音接口降了价

OpenAI 这次主要给开发者端上了几道新菜。首先是 o1 模型正式在 API 里上线,先推给用量最高的第五级开发者。相比之前的预览版,o1 现在能调用外部函数、按你给的 JSON 格式稳定输出、看懂图片,还多了一个叫 reasoning_effort 的参数让你控制它思考多久。官方说它平均比预览版少用 60% 的思考 token,等于更快更省钱。

推荐理由:OpenAI 将 o1 模型正式上线 API,新增函数调用、结构化输出和图片理解,官方称其平均比预览版少用 60% 的思考 token。

2024年12月13日星期五

OpenAI News

OpenAI 公开邮件时间线:马斯克 2017 年就想要一个营利公司,而且要绝对控制权

OpenAI 在 2024 年 12 月 13 日发了一篇博文,直接贴出邮件记录和时间线,回应马斯克的法律诉讼。

推荐理由:OpenAI 公开邮件时间线回应马斯克诉讼,其中显示马斯克 2017 年就提出想要营利公司并要绝对控制权,是了解双方分歧起点的一手材料。

2024年12月9日星期一

OpenAI News

OpenAI 把 Sora 视频生成模型正式上线,推出更快的 Sora Turbo 版本

OpenAI 在 12 月 9 日结束了 Sora 的研究预览,直接把它做成了一个独立产品,给 ChatGPT Plus 和 Pro 用户用。新版本叫 Sora Turbo,生成速度比二月份展示的快了不少。Plus 用户每月能免费生成最多 50 个 480p 视频,或者少一些的 720p 视频。

推荐理由:OpenAI 将 Sora 从研究预览转为独立产品并推出更快的 Sora Turbo,Plus 用户每月可免费生成最多 50 个 480p 视频,这条交代了视频生成工具进入付费订阅的规格与限制。

2024年12月5日星期四

OpenAI News

OpenAI 推出每月 200 美元的 ChatGPT Pro,把更长的思考时间做成付费功能

OpenAI 新加了一个 ChatGPT Pro 档位,月费 200 美元,可以无限用 o1、o1-mini、GPT-4o 和高级语音模式。核心卖点是 o1 pro 模式,它用更多算力让模型“想得更久”,去啃数据科学、编程和判例分析这类硬骨头。

推荐理由:OpenAI 上线月费 200 美元的 ChatGPT Pro,可无限使用 o1、o1-mini、GPT-4o 和高级语音模式,其中 o1 pro 模式用更多算力换取更长的思考时间,面向数据科学、编程和判例分析等任务。

OpenAI News

OpenAI 发布 o1 系统卡:用大规模强化学习训练模型先想再答,安全风险定在“中”以下才上线

OpenAI 把 o1 和 o1-mini 的安全测试结果公开了。核心就一句话:o1 系列用大规模强化学习训练模型在回答前先进行“思维链”推理,这让它在遵循安全规则、抵抗越狱攻击上比前代强。但正文没披露具体的数据配比和完整基准分。安全方面,他们设了上线门槛——风险缓解后评分必须“中”或更低。

推荐理由:OpenAI 公开 o1 与 o1-mini 的安全测试结果,披露其用大规模强化学习让模型先推理再作答,并给出风险缓解后评分须为“中”或更低的上线门槛。

2024年11月21日星期四

OpenAI News

OpenAI 公开两篇红队测试论文:一篇讲怎么请外部专家找茬,一篇讲怎么用 AI 自动找茬

OpenAI 在 2024 年 11 月 21 日发了两篇论文,把自家红队测试(就是找人来攻击模型、挖风险)的方法摊开来讲。第一篇白皮书专门说外部人类红队的流程,讲了三个具体设计选择:一是根据威胁模型挑人,比如要找懂网络安全、会小语种或熟悉某地区政治的人。

推荐理由:OpenAI 公开两篇红队测试论文,一篇讲外部人类红队按威胁模型选人的流程设计,一篇讲用 AI 自动找茬,安全团队可参考其组队与反馈机制。

2024年11月4日星期一

OpenAI News

OpenAI 给美国商务部 NTIA 的建言:一个 5GW 数据中心能拉动约 4 万个就业岗位

OpenAI 在 2024 年 11 月 4 日公开了它提交给美国国家电信和信息管理局(NTIA)的意见书,核心是在为 AI 基础设施抢政策。文章里算了一笔账:建一个 5GW 的数据中心,从施工到周边餐饮零售,能创造或支撑大概 4 万个工作岗位,给所在州贡献 170 亿到 200 亿美元的 GDP。

推荐理由:OpenAI 向美国商务部 NTIA 提交意见书,测算单个 5GW 数据中心可支撑约 4 万个岗位、为所在州贡献 170 亿至 200 亿美元 GDP。

2024年10月31日星期四

OpenAI News

ChatGPT 现在能直接搜网页了,不用再跳去搜索引擎

OpenAI 在 2024 年 10 月 31 日给 ChatGPT 加上了搜索功能,Plus、Team 和之前排队的 SearchGPT 用户先用。它会根据你的问题自动判断要不要上网查,你也可以手动点搜索图标。回答里会附上来源链接,点一下侧边栏就能看到引用了哪些网页。

推荐理由:OpenAI 给 ChatGPT 加入网页搜索,Plus、Team 和 SearchGPT 排队用户先用,回答附来源链接并可在侧边栏查看引用网页,信息获取从跳转搜索引擎变为在对话内完成。

2024年10月30日星期三

OpenAI News

OpenAI 开源了一个叫 SimpleQA 的事实性基准,专门测模型回答短问题的准确率

OpenAI 放出了一个包含 4326 道题的基准 SimpleQA,题目都是简短、有明确答案的事实类问题,比如“2022 年世界杯荷兰对阿根廷,哪位荷兰球员打进了运动战进球”。每道题都经过两名独立 AI 训练师交叉验证,又抽了 1000 道题做第三方审计,发现答案一致率 94.4%,估算数据集本身的固有错误率在 3% 左右。

推荐理由:OpenAI 发布含 4326 道事实题的 SimpleQA 基准,题目经两名训练师交叉验证并抽检 1000 道,答案一致率 94.4%,可用于衡量模型回答短事实问题的准确率。

2024年10月24日星期四

OpenAI News

OpenAI 公布国家安全合作框架,明确禁止武器开发,但会帮美军做网络防御和行政提效

OpenAI 在 2024 年 10 月白宫发布 AI 国家安全备忘录后,公开了自己参与国家安全项目的边界。他们说自己有一套内部审核流程,由产品政策和国家安全团队把关,只接符合“民主价值观”的活。文章举了三个已有的例子:跟 DARPA 合作做网络防御、帮美国国际开发署用 ChatGPT 减轻行政杂活、以及在洛斯阿拉莫斯国家实验室搞生物科学研究。

推荐理由:OpenAI 公开国家安全项目的内部审核流程与禁止用途,并列出与 DARPA、美国国际开发署和洛斯阿拉莫斯国家实验室的三个合作方向。

2024年10月23日星期三

OpenAI News

OpenAI 把一致性模型简化并扩展到 15 亿参数,两步出图,质量追平扩散模型

OpenAI 发了个新方法叫 sCM,把连续时间一致性模型的训练搞稳定了,直接扩到 15 亿参数,在 512×512 的 ImageNet 上跑。它只用两步采样,出图质量就能跟现在最好的扩散模型打平,单张 A100 上 0.11 秒出一张图,比扩散模型快大约 50 倍。论文里对比了有效算力,sCM 花不到 10% 的算力就拿到差不多的 FID 分数。

推荐理由:OpenAI 把连续时间一致性模型扩到 15 亿参数,两步采样在 ImageNet 512×512 上质量追平扩散模型,单张 A100 出图 0.11 秒,算力不到扩散模型 10%。

2024年10月22日星期二

OpenAI News

OpenAI 任命了首位首席经济学家,要研究 AI 到底怎么影响就业和经济增长

OpenAI 在 2024 年 10 月 22 日宣布,杜克大学教授 Ronnie Chatterji 将担任公司首位首席经济学家。这个职位不是发布新模型,而是专门研究 AI 对经济增长、就业和劳动力市场的长期影响,并想办法让技术红利扩散到更多人手里。

推荐理由:OpenAI 任命杜克大学教授 Ronnie Chatterji 担任首位首席经济学家,研究 AI 对经济增长、就业和劳动力市场的长期影响,并关注技术红利如何扩散。

2024年10月15日星期二

OpenAI News

OpenAI 自查 ChatGPT 有没有看人下菜碟:用名字测偏见,整体翻车率约 0.1%

OpenAI 拿几百万条 ChatGPT 的真实对话做了次内部体检,想看看用户的名字会不会触发有害的刻板印象。他们让 GPT-4o 当“隐私保护评审员”去读聊天记录、找规律,研究员看不到原始对话。结果发现,ChatGPT 的回答质量不会因为名字暗示的性别或种族而变差,但确实有大约 0.1% 的情况,名字会引出有害偏见。

推荐理由:OpenAI 用数百万条真实对话审计 ChatGPT 的公平性,发现回答质量不因名字暗示的性别或种族变差,约 0.1% 的情况会引出有害刻板印象。

2024年10月10日星期四

OpenAI News

OpenAI 搞了个 MLE-bench,用 75 个 Kaggle 比赛来考 AI 的机器学习工程能力

OpenAI 从 Kaggle 挑了 75 个真实比赛做成基准测试,让 AI 智能体自己训练模型、处理数据、跑实验。最强的组合是 o1-preview 配上 AIDE 脚手架(一种帮模型自动迭代代码的工具),在 16.9% 的比赛里拿到了至少铜牌水平。这个成绩说明模型能独立完成一些 ML 工程任务,但离真正拿金牌还差得远。

推荐理由:OpenAI 用 75 个 Kaggle 真实比赛搭建 MLE-bench,让智能体独立完成数据处理、模型训练到提交结果的全流程,最强组合在 16.9% 的比赛里达到铜牌水平。

2024年10月9日星期三

OpenAI News

OpenAI 说今年已端掉 20 多个滥用其模型的欺骗性网络

OpenAI 发了一篇安全更新,说从 2024 年初到现在,已经发现并掐断了超过 20 个试图用他们模型干坏事的行动和欺骗性网络。这些事主要跟选举干扰、社交媒体操纵以及有国家背景的团伙有关。文章把具体发现写进了 2024 年 10 月的一份威胁情报报告里,但正文没披露这 20 多个案例分别用了哪些模型,也没说具体是怎么发现和阻断的。

推荐理由:OpenAI 披露今年已阻断 20 多个利用其模型实施选举干扰和社媒操纵的网络,涉及国家背景团伙,相关发现收录在 10 月的威胁情报报告中。

2024年10月8日星期二

OpenAI News

OpenAI 与赫斯特达成内容合作,旗下 20+ 杂志和 40+ 报纸将进入 ChatGPT

OpenAI 在 2024 年 10 月 8 日宣布,跟美国老牌出版集团赫斯特(Hearst)签了内容授权协议。赫斯特会把《时尚先生》《时尚 COSMO》《ELLE》《跑者世界》《女性健康》等 20 多个杂志品牌和 40 多家报纸(包括《休斯顿纪事报》《旧金山纪事报》)的内容提供给 ChatGPT 这类产品。

推荐理由:赫斯特将旗下 20 多个杂志品牌和 40 多家报纸的内容授权给 ChatGPT,规模覆盖《时尚先生》《ELLE》等知名刊物,是新闻出版内容进入 AI 分发渠道的又一案例。

2024年10月3日星期四

OpenAI News

OpenAI 给 ChatGPT 加了个叫 Canvas 的侧边栏,写东西和改代码不用再跟聊天框死磕了

OpenAI 在 10 月 3 号给 Plus 和 Team 用户推了个 Canvas 测试版,相当于在 ChatGPT 旁边开了个协作窗口,你可以直接在上面改文字或代码,模型也能像编辑一样给行内建议。它背后是 GPT-4o,专门训练过什么时候该自动弹出这个窗口:写作场景触发准确率到了 83%,编程场景 94%。

推荐理由:OpenAI 为 ChatGPT 推出 Canvas 测试版,在写作和编程时单独开窗口,模型能按场景自动弹出并给行内修改建议。

OpenAI News

OpenAI 拿到 40 亿美元银行授信,加上刚融的 66 亿,手里可动用资金超过 100 亿

OpenAI 在 2024 年 10 月 3 日宣布,从摩根大通、花旗、高盛等 9 家银行搞到了一个 40 亿美元的循环信贷额度。这笔钱目前还没动过,加上之前那轮 66 亿美元的融资,公司账上能随时调用的钱超过了 100 亿美元。说白了就是 OpenAI 给自己备了一大笔过冬或扩张的粮草,不是新产品发布。

推荐理由:OpenAI 从摩根大通、花旗、高盛等 9 家银行获得 40 亿美元循环信贷额度,加上此前 66 亿美元融资,可随时调用资金超过 100 亿美元。

2024年10月2日星期三

OpenAI News

OpenAI 拿了 66 亿美元新融资,估值推到 1570 亿美元

OpenAI 宣布完成 66 亿美元融资,投后估值 1570 亿美元。钱会花在前沿 AI 研究、增加算力和继续做产品工具上。现在 ChatGPT 每周有超过 2.5 亿人在用。正文没披露具体投资人名单、持股条款,也没说算力具体会扩到多大规模。

推荐理由:OpenAI 完成 66 亿美元融资,投后估值 1570 亿美元,资金投向前沿研究、算力和产品工具,ChatGPT 周活已超 2.5 亿。

2024年10月1日星期二

OpenAI News

OpenAI 发布 Realtime API 公测版,让开发者直接调用 GPT-4o 做低延迟语音对话

OpenAI 在 2024 年 10 月 1 日推出了 Realtime API 的公测版,所有付费开发者都能用。这个接口通过一个持久的 WebSocket 连接,把音频直接流式传给 GPT-4o,再流式返回语音,省掉了以前那种“先转文字、再生成回复、最后转语音”的串联流程。好处是延迟更低,能保留语气和重音,还能自动处理用户插话。

推荐理由:OpenAI 公测 Realtime API,开发者可通过一条 WebSocket 连接让音频直连 GPT-4o 流式往返,省去语音转文字再转语音的串联环节。

OpenAI News

OpenAI 给 GPT-4o 开放了图像微调,开发者可以拿图片和文字一起训练模型了

OpenAI 在 2024 年 10 月 1 日上线了 GPT-4o 的图像微调功能,付费开发者现在能上传图片加文字的数据集来定制模型。最少 100 张图就能看到效果,图越多、数据量越大,提升越明显。Grab 用 100 个样本训练后,车道数量识别准确率提高了 20%,限速标志定位准确率提高了 13%。

推荐理由:OpenAI 将图像微调开放给付费开发者,上传图片加文字数据集即可定制模型,最少 100 张图见效,Grab 用 100 个样本把车道数量识别准确率提高 20%。

OpenAI News

OpenAI API 自动缓存重复的提示词前缀,费用直接打五折

OpenAI 给 GPT-4o、GPT-4o mini、o1-preview 和 o1-mini 的 API 加上了自动提示词缓存。只要你的请求里有一段超过 1024 个 token 的前缀最近被用过,系统就会自动命中缓存,这部分输入 token 的价格直接减半。缓存从 1024 token 起步,按 128 token 的粒度往上加。

推荐理由:OpenAI 为 GPT-4o、o1 等模型的 API 加入自动提示词缓存,超过 1024 token 的重复前缀可让输入费用减半,长上下文与固定系统提示场景的成本结构随之改变。

OpenAI News

OpenAI 在 API 里上线了模型蒸馏,让你用大模型的回答去教小模型

OpenAI 10 月 1 号在自家 API 里推了一套模型蒸馏工具,核心思路是:先用 GPT-4o 或 o1-preview 这类大模型跑出结果,再用这些结果去微调 GPT-4o mini 这种便宜模型,让它在特定任务上接近大模型的表现,但成本更低。

推荐理由:OpenAI 把模型蒸馏做成 API 内置流程,用 GPT-4o 或 o1-preview 的输出微调 GPT-4o mini,让团队不必自建这套流水线就能压低特定任务的推理成本。

2024年9月26日星期四

OpenAI News

OpenAI 把内容审核接口升级成多模态了,现在能同时看文字和图片

OpenAI 在 9 月 26 日上线了新的审核模型 omni-moderation-latest,基于 GPT-4o,所有开发者都能免费用。它最大的变化是能审图片了,覆盖暴力、自残、色情这 6 个子类,不过色情类里涉及未成年人的图片暂时还审不了。文字审核新增了“违法”和“违法/暴力”两个类别,比如“怎么偷东西”这种教人干坏事的提示词会被抓出来。

推荐理由:OpenAI 上线基于 GPT-4o 的 omni-moderation-latest 审核模型并免费开放,新增图片审核与违法类文字识别,多模态内容审核的覆盖范围由此扩展。

2024年9月16日星期一

OpenAI News

OpenAI 把安全委员会升级成独立监督机构,有权叫停模型发布

OpenAI 在 2024 年 9 月 16 日宣布,原先的安全与安保委员会将变成一个独立的董事会监督委员会,由卡内基梅隆大学的 Zico Kolter 当主席。这个委员会能审查重大模型的安全评估,如果觉得有风险,可以直接推迟发布,直到问题解决。公告里还提了几件事:刚完成了一个 90 天的安全流程审查。

推荐理由:OpenAI 将安全与安保委员会升格为独立的董事会监督委员会,由 Zico Kolter 任主席,可审查重大模型安全评估并推迟有风险的发布。

2024年9月12日星期四

OpenAI News

OpenAI 发布 o1 系列模型,先想清楚再回答,数学推理从 13% 飙到 83%

OpenAI 在 9 月 12 日推出了 o1-preview 和 o1-mini 两个新模型,主打“先思考再回答”。在数学奥赛预选题上,GPT-4o 正确率只有 13%,o1 推理模型做到了 83%,编程能力也到了 Codeforces 前 11%。

推荐理由:OpenAI 推出 o1-preview 和 o1-mini,主打先思考再回答,数学奥赛预选题正确率从 GPT-4o 的 13% 提升到 83%,编程达到 Codeforces 前 11%。