跳到正文

#数据/训练

今日 6 条

2月12日星期四

MIT Technology Review · AI

中国开源 AI 下一步怎么走:从追赶变成铺管道

MIT Technology Review 这篇展望认为,DeepSeek 在 2025 年初放出 R1 之后,中国公司已经能反复拿出性能接近西方顶级系统、但价格便宜很多的模型。文章举了月之暗面 Kimi K2.5 的例子,说它在早期跑分上接近 Anthropic 的 Claude Opus,价格大约是后者的七分之一。

推荐理由:MIT Technology Review 梳理 DeepSeek R1 之后中国开源模型的走向,并以月之暗面 Kimi K2.5 早期跑分接近 Claude Opus、价格约为其七分之一为例,呈现性能与成本差距的缩小。

1月31日星期六

MIT Technology Review · AI

斯坦福和印第安纳大学的研究发现,AI 模型平台 Civitai 上 90% 的定制深度伪造悬赏都针对真实女性

斯坦福和印第安纳大学的研究人员扒了 Civitai 这个 AI 内容交易平台的数据,发现从 2023 年中到 2024 年底,平台上 90% 的深度伪造悬赏(bounties)都指名要生成真实女性的假照片。

推荐理由:斯坦福和印第安纳大学研究人员分析 Civitai 平台数据,发现 2023 年中至 2024 年底九成定制深度伪造悬赏指名真实女性,勾勒出这一交易市场的需求集中度。

1月6日星期二

NVIDIA 博客

NVIDIA 把跑千亿参数大模型的机器塞进了桌面

NVIDIA 在 CES 上展示了两台桌面设备 DGX Spark 和 DGX Station,能在本地跑 1000 亿到 1 万亿参数的开源模型。DGX Station 有 775GB 的统一内存,可以把模型压缩到 NVFP4 格式,压缩率最高 70%,跑 llama.cpp 时推理速度平均提升 35%。

推荐理由:英伟达在 CES 展示的 DGX Spark 和 DGX Station 能在桌面本地运行千亿到万亿参数开源模型,其中 DGX Station 的 775GB 统一内存与 NVFP4 压缩给出了本地部署大模型的硬件配置参考。

1月3日星期六

TechCrunch · AI

Mercor 三年做到 100 亿美元估值,靠的是给 AI 公司拉高端专家做数据标注

Mercor 这家成立三年的公司,现在估值 100 亿美元,干的活说白了就是给 OpenAI、Anthropic 这些 AI 实验室当人才中介。他们找的不是普通众包人员,而是高盛、麦肯锡、顶尖律所的前员工,时薪最高给到 200 美元,让这些人用自己的行业经验去训练 AI 模型。

推荐理由:成立三年的 Mercor 靠给 OpenAI、Anthropic 等实验室介绍高盛、麦肯锡和顶尖律所前员工做数据标注,时薪最高 200 美元,估值已达 100 亿美元。

2025年8月5日星期二

OpenAI News

OpenAI 公开了开源模型 gpt-oss 的极端风险测试方法,并据此决定放行发布

OpenAI 发了一篇技术文章,讲他们怎么评估开源模型 gpt-oss 在最坏情况下可能被用歪的风险。他们用的方法叫“恶意微调”,说白了就是故意把模型往坏里教:在生物风险这块,让模型上网查资料、用强化学习训练它搞威胁制造;在网络攻击这块,把它扔进一个能写代码干活的环境里打 CTF 解题赛。

推荐理由:OpenAI 公开了评估 gpt-oss 最坏风险的恶意微调方法,用生物威胁制造和 CTF 解题两套环境探测模型被滥用后的能力边界。

2025年6月16日星期一

OpenAI News

OpenAI 成立政府服务部门,首个大单是跟美国国防部试点,合同上限 2 亿美元

OpenAI 把之前零散的美国公共部门业务打包,推出了“OpenAI for Government”。第一个合作方是美国国防部首席数字与人工智能办公室(CDAO),签了一份上限 2 亿美元的试点合同,主要用 ChatGPT Enterprise 和 ChatGPT Gov 去改造行政流程,比如帮军人家庭查医保、整理采购数据、做主动网络防御。

推荐理由:OpenAI把面向联邦、州和地方的公共部门业务整合为政府服务部门,与美国国防部CDAO签下上限2亿美元的试点合同,用于行政流程改造。

2025年4月9日星期三

OpenAI News

OpenAI 推出 Pioneers 计划,帮垂直行业做公开评测集和定制模型

OpenAI 在 2025 年 4 月 9 日公布了 Pioneers 计划,第一批只挑少量创业公司合作。核心做两件事:一是针对法律、金融、保险、医疗、会计等行业,和公司一起设计领域专用的评测基准,之后会公开发布——这比模型本身更值得关注,相当于 OpenAI 要下场定义“行业里什么叫好用”。

推荐理由:OpenAI 启动 Pioneers 计划,与法律、金融、医疗等行业公司共建领域评测基准并公开发布,行业团队可据此了解模型在具体场景中的评判标准。

2025年3月4日星期二

OpenAI News

OpenAI 成立 NextGenAI 联盟,砸 5000 万美元把高校和图书馆绑上自己的技术栈

OpenAI 拉上 15 家大学、医院和图书馆组了个叫 NextGenAI 的联盟,总共承诺投入 5000 万美元,形式是研究经费、算力补贴和 API 调用额度。这笔钱不是直接发,而是让合作方用 OpenAI 的工具干活。MIT 的师生能拿 API 和算力去训练、微调自己的模型。

推荐理由:OpenAI 联合 15 家高校、医院和图书馆成立 NextGenAI 联盟,投入 5000 万美元研究经费、算力补贴和 API 额度,合作方以 OpenAI 工具开展训练与微调。

2024年12月17日星期二

OpenAI News

OpenAI 把 o1 模型放进 API 了,还顺手给实时语音接口降了价

OpenAI 这次主要给开发者端上了几道新菜。首先是 o1 模型正式在 API 里上线,先推给用量最高的第五级开发者。相比之前的预览版,o1 现在能调用外部函数、按你给的 JSON 格式稳定输出、看懂图片,还多了一个叫 reasoning_effort 的参数让你控制它思考多久。官方说它平均比预览版少用 60% 的思考 token,等于更快更省钱。

推荐理由:OpenAI 将 o1 模型正式上线 API,新增函数调用、结构化输出和图片理解,官方称其平均比预览版少用 60% 的思考 token。

2024年10月3日星期四

OpenAI News

OpenAI 给 ChatGPT 加了个叫 Canvas 的侧边栏,写东西和改代码不用再跟聊天框死磕了

OpenAI 在 10 月 3 号给 Plus 和 Team 用户推了个 Canvas 测试版,相当于在 ChatGPT 旁边开了个协作窗口,你可以直接在上面改文字或代码,模型也能像编辑一样给行内建议。它背后是 GPT-4o,专门训练过什么时候该自动弹出这个窗口:写作场景触发准确率到了 83%,编程场景 94%。

推荐理由:OpenAI 为 ChatGPT 推出 Canvas 测试版,在写作和编程时单独开窗口,模型能按场景自动弹出并给行内修改建议。

2024年10月1日星期二

OpenAI News

OpenAI 给 GPT-4o 开放了图像微调,开发者可以拿图片和文字一起训练模型了

OpenAI 在 2024 年 10 月 1 日上线了 GPT-4o 的图像微调功能,付费开发者现在能上传图片加文字的数据集来定制模型。最少 100 张图就能看到效果,图越多、数据量越大,提升越明显。Grab 用 100 个样本训练后,车道数量识别准确率提高了 20%,限速标志定位准确率提高了 13%。

推荐理由:OpenAI 将图像微调开放给付费开发者,上传图片加文字数据集即可定制模型,最少 100 张图见效,Grab 用 100 个样本把车道数量识别准确率提高 20%。

OpenAI News

OpenAI 在 API 里上线了模型蒸馏,让你用大模型的回答去教小模型

OpenAI 10 月 1 号在自家 API 里推了一套模型蒸馏工具,核心思路是:先用 GPT-4o 或 o1-preview 这类大模型跑出结果,再用这些结果去微调 GPT-4o mini 这种便宜模型,让它在特定任务上接近大模型的表现,但成本更低。

推荐理由:OpenAI 把模型蒸馏做成 API 内置流程,用 GPT-4o 或 o1-preview 的输出微调 GPT-4o mini,让团队不必自建这套流水线就能压低特定任务的推理成本。

2024年8月20日星期二

OpenAI News

OpenAI 开放 GPT-4o 微调,训练费每百万 token 25 美元,9 月 23 日前每天送 100 万免费额度

OpenAI 把 GPT-4o 的微调权限开放给所有付费开发者了。训练价格是每百万 token 25 美元,用微调后的模型跑推理,输入每百万 token 3.75 美元,输出每百万 token 15 美元。到 9 月 23 日为止,每个组织每天能免费拿到 100 万训练 token。

推荐理由:OpenAI 向所有付费开发者开放 GPT-4o 微调,训练每百万 token 25 美元,9 月 23 日前每个组织每天可领 100 万免费训练 token。

2024年7月24日星期三

OpenAI News

OpenAI 用“规则打分”替代部分人工反馈,让模型在安全问题上更听话

OpenAI 在 7 月 24 日公开了他们用在安全对齐上的新方法:Rule-Based Rewards(RBRs),也就是用一套事先写好的规则给模型回复打分,而不是每次都靠人反复标注。

推荐理由:OpenAI 公开用规则打分替代部分人工反馈的安全对齐方法,安全政策调整时只需改规则,不必重新标注数据。