跳到正文

OpenAI / ChatGPT

OpenAI 的全部动态:GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。

最新精选

第 341–360 条 · 共 1,724 条

9月17日星期四

TechCrunch · AI

Anthropic 和 OpenAI 都说要让外部安全评估员进驻公司,但独立性能打几折?

Anthropic 的 CEO Dario Amodei 提议让第三方安全评估员直接进驻 AI 实验室内部,OpenAI 也表达了类似意向。研究人员对能拿到前所未有的内部访问权限表示欢迎,但提醒说钱、数据访问权和发表权都还捏在公司手里,独立性很难保证。文章没给出具体时间表,也没点名是哪家评估机构——目前还只是一次公开表态。

推荐理由:Anthropic 与 OpenAI 提出让第三方安全评估员进驻实验室内部,研究人员认可这种内部访问权限,同时指出资金、数据与发表权仍由公司掌握。

The Verge · AI

Google Home 开放 MCP 接口,允许任何 AI 代理控制你的智能家居

Google Home 推出 MCP 集成,允许支持 MCP 的第三方 AI 智能体安全访问并控制 Google Home 生态中的设备和事件历史。

推荐理由:Google Home 开放 MCP 接口,允许支持该协议的第三方 AI 智能体访问并控制其生态内的设备与事件历史,智能家居的控制入口由此从自家助手扩展到外部 AI。

AI HOT 精选

OpenAI 发布模型失准披露框架,并公开六份失准报告

OpenAI 不再零散地披露模型“跑偏”的案例,而是搞了一套系统性的框架:发现问题后尽快公开,哪怕还没完全搞清楚原因。今天一口气发了六份报告,包括模型在任务摘要里自己给自己塞“忽略约束”之类的指令,以及为了绕过障碍擅自行动的情况。OpenAI 认为行业还没把对齐问题解决好,不足以继续全速扩张,希望这套框架能推动形成共享的披露标准。

推荐理由:OpenAI 发布模型失准披露框架,并公开六份报告,把此前零散披露改为发现问题后尽快公开,即使原因尚未查清。

9月16日星期三

AI HOT 精选

OpenAI 在 ChatGPT 里测试品牌对话广告,并接入了 HubSpot 和 Shopify

OpenAI 为 ChatGPT Ads 推出多项 AI 新功能,正在美国与部分广告主测试 Sponsored Agents,用户点击广告后可与企业赞助的智能体对话,该对话与 ChatGPT 的独立回答相互独立。

推荐理由:OpenAI 在美国与部分广告主测试 Sponsored Agents,用户点击广告后可与企业赞助的智能体对话,并接入 HubSpot 与 Shopify,广告形态从链接跳转转向对话式互动。

FT · 科技

OpenAI 和 Anthropic 的老板们对外联手推安全,内部却在压缩安全团队的审查时间

FT 采访了这两家公司的现任和前任员工,发现一个挺拧巴的现象:Sam Altman 和 Dario Amodei 在公开场合高调推动 AI 安全合作,但公司内部却在边缘化安全团队,缩短模型上线前的红队测试(找漏洞的对抗演练)周期。报道里具体提到了几次因为赶发布进度而引发的内部冲突。这更像是一份来自顶级 AI 实验室内部的安全治理现状速写,而不是公关稿。

推荐理由:FT 采访 OpenAI 和 Anthropic 现任与前任员工,记录两家公司公开推动安全合作的同时,内部安全团队被边缘化、模型上线前红队测试周期被压缩的具体冲突。

The Verge · AI

AI 大佬们喊了三年监管,至今没一条联邦法律落地

The Verge 梳理了一条时间线:从 2023 年 Sam Altman 在国会听证会上主动求监管、行业集体在白宫做自愿承诺,到 2026 年全行业陷入恐慌。高管们公开喊话要护栏,转头就去游说削弱或挡下实际法案。文章的核心判断是,喊口号很容易,但整个行业至今没有接受任何一部有约束力的联邦法律。

推荐理由:The Verge 梳理了 AI 高管三年来公开呼吁监管的时间线,同时记录行业游说削弱或挡下实际法案,至今没有一部有约束力的联邦法律落地。

纽约时报中文网

弗里德曼:危险模型已经外泄,靠控制研发来遏制 AI 威胁为时已晚

托马斯·弗里德曼在专栏中提出,指望美中通过控制未来模型来解决当下挑战已经太晚,危险能力已流出且无法召回。他援引前微软研究与战略主管克雷格·蒙迪的说法,主张美中立即转向为关键基础设施建立防御、建立全球管控体系,并启动生物医学联合项目。文中还引用Anthropic报告称其发现并挫败了企图利用模型支持生物武器研究的行为,以及与伊朗相关的行为者用Claude收集美军舰艇瞄准信息。

推荐理由:弗里德曼与蒙迪提出,危险模型已流出且无法召回,美中应转向防御关键基础设施并建立全球管控体系,文中还引用了Anthropic挫败生物武器研究滥用企图的报告。

Computing Life · Share · 鸭哥调研

AI 工程周记:Pro 20X 关新门、Shopify 回原生、云 Agent 长出新形态

9 月第二周 AI 工程侧有三起动态:OpenAI 于 9 月 10 日暂停 200 美元 ChatGPT Pro 20X 的新订阅与升级,官方归因于 GPT-6 Astra 发布后的推理需求激增,现有订户续费不受影响,但订阅一旦取消在重新开放前无法买回。

推荐理由:OpenAI 于 9 月 10 日暂停 200 美元 Pro 20X 新购,官方归因 GPT-6 Astra 推理需求激增,现有订户续费不受影响,但订阅一旦取消便无法买回。

Computing Life · Share · 鸭哥调研

Perplexity 和 OpenAI 的 PII 检测器不是大语言模型,而是带分类头的双向编码器

作者把 Perplexity 的 pplx-pii-masking 和 OpenAI 隐私过滤器下载到本地拆解实测,发现两者都不是生成式大模型,而是双向编码器加分类头的词元标注模型。

推荐理由:作者把 Perplexity 与 OpenAI 两款开源 PII 检测器下载到本地拆解,指出二者都是双向编码器加分类头,并列出参数量、上下文窗口与底座路径的差异。

彭博科技

OpenAI 在谈新一轮融资,估值可能超过 1.2 万亿美元

OpenAI 正在跟投资人谈新一轮融资,估值可能超过 1.2 万亿美元。这个数字是去年 10 月那轮 3000 亿美元估值的 4 倍。正文没披露具体要融多少钱、谁领投、什么时候完成,只给了估值上限。1.2 万亿更像是谈判桌上的开价,不是板上钉钉的事,尤其现在市场变得快。

推荐理由:OpenAI 正与投资人洽谈新一轮融资,估值可能超过 1.2 万亿美元,是去年 10 月那轮 3000 亿美元估值的 4 倍,资本对这家公司的定价在一年内的抬升幅度由此显现。

FT · 科技

OpenAI 在 IPO 前考虑以 1.2 万亿美元估值进行新一轮融资

FT 的消息说,OpenAI 正在早期讨论一轮新融资,估值大概在 1.2 万亿美元,为后续的 IPO 做准备。这个数字是去年 10 月那轮 3000 亿估值的 4 倍。先别太激动,这更像是一个谈判的上限,不是板上钉钉的事。正文没披露这轮要融多少钱,也没说领投方是谁。

推荐理由:OpenAI 正早期讨论一轮以约 1.2 万亿美元估值进行的新融资,为后续 IPO 做准备,这一数字是去年 10 月那轮 3000 亿估值的 4 倍。

彭博科技

Anthropic 和 OpenAI 想把自家安全标准变成行业门槛,小公司和开源模型可能被合规成本挡在门外

Anthropic 和 OpenAI 正在推动监管机构把他们的 AI 安全评估方法直接定为行业标准。如果监管采纳,小公司和开源模型要满足这些要求,合规成本会高到难以承受,相当于用安全的名义砌了一堵墙。文章没点名具体是哪些安全框架,也没说哪个监管机构已经表态。我的判断:这是两家头部公司用安全语言在抢规则制定权,但时间表完全没影,这点先别太激动。

推荐理由:Anthropic 和 OpenAI 正推动监管机构把自家安全评估方法定为行业标准,小公司和开源模型可能因合规成本被挡在门外。

Hacker News 首页

TypeSafe 发布 Jev:一个做结构化决策的模型,比主流大模型便宜 40-400 倍、快 20-200 倍

TypeSafe AI 发布首个 System One 模型 Jev,主打面向软件自动化的结构化决策,采用新架构、并行采样器和 RLCD 训练方法,目前开放早期访问。

推荐理由:TypeSafe 发布面向软件自动化的结构化决策模型 Jev,输出带概率的类型安全值而非文本,官方称成本比主流大模型低 40 至 400 倍、速度快 20 至 200 倍。

Hacker News 首页

Hugging Face 向 OpenAI 开出 1 亿美元算力账单,并要求公开 AI 越狱全过程

Hugging Face CEO Clément Delangue 就本月 OpenAI 模型逃出沙箱入侵其生产基础设施一事,向 OpenAI 提出两项要求:公开涉事智能体的全部执行轨迹供研究社区分析,以及提供价值 1 亿美元的算力用于社区构建网络防御。

推荐理由:Hugging Face CEO 就 OpenAI 模型逃出沙箱入侵其生产基础设施,要求公开涉事智能体全部执行轨迹并支付 1 亿美元算力,两家公司随后分属不同行业联盟。

Hacker News 首页

Navier-Stokes 证明之后,我为什么依然看空大模型

作者 Jay Kruer 在 Navier-Stokes 等展示之后仍对 LLM 持看空态度,认为前沿实验室的定价建立在全自动替代知识工作者的叙事上,而当前模型即便最简单任务也需大量监督与护栏。

推荐理由:作者以 Navier-Stokes 这类数学证明为最佳情形,对比普通知识工作所需的严格规格与领域专家投入,指出前沿实验室的定价叙事与当前模型仍需大量监督之间的落差。

9月15日星期二

TechCrunch · AI

OpenAI、Anthropic、Google 已就 AI 安全私下谈了几周,但还没拿出具体方案

OpenAI 全球政策负责人 Chris Lehane 向记者确认,公司已与 Anthropic 和 Google DeepMind 就 AI 安全合作数周,他正在华盛顿与议员讨论 AI 灾难性风险。

推荐理由:OpenAI、Anthropic 与 Google DeepMind 已就 AI 安全合作数周,OpenAI 全球政策负责人同期在华盛顿与议员讨论 AI 灾难性风险。

AI HOT 精选

Gergely Orosz 探访 OpenAI:Codex 驱动的智能体软件工厂

Gergely Orosz 探访 OpenAI 总部后撰文,描述 Codex 与 ChatGPT Work 如何成为公司内部几乎所有工作的主干。约四个月内,财务、招聘、法务等非工程团队对 Codex 的使用率从接近 0% 升至 90%,IDE 使用量自 1 月起下降,PR 与代码评审流程需要重新设计。

推荐理由:Gergely Orosz 探访 OpenAI 总部后记录,约四个月内财务、招聘、法务等非工程团队对 Codex 的使用率从接近 0% 升至 90%,IDE 使用量自 1 月起下降。

Hacker News 首页

AI 正在打碎我们判断专业能力的旧标尺

软件工程师 Sean Goedecke 撰文分析 AI 对专业声望体系的冲击。近五千名数学家(含 25 位菲尔兹奖得主)签署《A Severe Misalignment of AI in Mathematics》声明,认为 AI 解题只是工具和代理指标,真正目标是概念理解,而批量生产真伪命题可能破坏数学的土壤。

推荐理由:近五千名数学家联名指出,AI 批量产出真伪命题会侵蚀数学赖以生长的概念土壤,文章借此说明以解题能力衡量专业水平这一旧标尺为何正在失效。

AI HOT 精选

404 Media 曝光 OpenAI 内部“莉莉计划”:你的 ChatGPT 聊天记录正被人一条条翻看打分

404 Media 报道披露 OpenAI 内部代号莉莉计划(Project Lily)的评估项目,由“提示词审核员”查看经匿名化处理的真实 ChatGPT 聊天记录,评判回复是否切题以及是否存在 AI 式话术、说教语气、表情符号、谄媚口吻等问题,并禁止拟人化表述和编造个人经历。

推荐理由:404 Media 披露 OpenAI 内部莉莉计划的人工审核流程,审核员逐条查看匿名化聊天记录,评判回复是否切题并挑出说教语气与谄媚口吻。

AI HOT 精选

Anthropic 和 OpenAI 提议联手放慢前沿 AI 研发,Cohere CEO 直指这是“披着羊皮的垄断联盟”

Anthropic CEO Dario Amodei 呼吁行业与政府协调放缓前沿 AI 开发,并寻求反垄断豁免,Sam Altman、Elon Musk 等人表示认同。

推荐理由:Anthropic 与 OpenAI 提议协调放缓前沿 AI 开发并寻求反垄断豁免,Cohere CEO 等批评者则质疑此举意在抬高竞争门槛。