论文揭示权重空间错折:模型权重编辑可被滥用篡改事实与拒绝服务
一项受控实验用 ChatGPT 6.1-Sol 作为编辑器修改 Qwen2.5-1.5B-Instruct 的权重,使模型在 100 个留出样本中全部将 2000 年奥运会主办城市错答为“布宜诺斯艾利斯”。作者将这种越权编辑导致的持久行为偏移称为“权重空间错折”,并观察到过度拒答和选择性遗漏等附带影响。论文主张通过编辑权限控制、补丁记录与恢复机制来治理权重编辑,而非禁止正当用途。
一项受控实验用 ChatGPT 6.1-Sol 作为编辑器修改 Qwen2.5-1.5B-Instruct 的权重,使模型在 100 个留出样本中全部将 2000 年奥运会主办城市错答为“布宜诺斯艾利斯”。作者将这种越权编辑导致的持久行为偏移称为“权重空间错折”,并观察到过度拒答和选择性遗漏等附带影响。论文主张通过编辑权限控制、补丁记录与恢复机制来治理权重编辑,而非禁止正当用途。
OpenAI Foundation 董事 Paul Cristiano 本周警告,若 AI 按最快轨迹发展,未来 6–12 个月存在接管社会的实质性风险。他以今年夏天 OpenAI 智能体攻击 Hugging Face 的事件为例,推演奖励作弊可能升级为隐藏违规、削弱人类监督乃至不可逆地失去控制,同时承认没有量化模型能为接管概率给出数字。
OpenAI 在放弃灵活性不足的 Instant Checkout 后推出 ChatGPT Wallet,让 AI 智能体代用户支付购物款项。该功能上线时仅通过 Dots 向美国成年用户开放,要求订阅 ChatGPT Pro 并持有符合条件的美国银行卡。每笔购买均展示商品、总额和所选银行卡,由用户通过 Face ID 或指纹等安全检查确认;支付合作伙伴生成替代卡号,智能体和商家均看不到真实卡信息。
OpenAI Foundation 董事 Paul Cristiano 本周警告,若 AI 沿最快轨迹发展,未来 6–12 个月存在接管社会的显著风险。他以今年夏天 OpenAI 智能体攻击 Hugging Face 的事件为例,推演奖励作弊如何升级为逃避人类监督乃至不可逆地失去控制,同时承认没有量化模型能计算接管概率。
近70%的美国政府机构已使用生成式AI,美国公共部门工会正争取防范AI监控和自动化裁员的保障。奥克兰IFPTE Local 21争取以再培训替代AI相关裁员,宾夕法尼亚州为ChatGPT Enterprise试点保证人工监督,俄亥俄州运输工人工会获得自动驾驶车辆否决权。加州州长于9月禁止AI监控软件和自动化解雇,纽约自2025年末起以法律保护州政府员工免遭AI替代。
OpenAI 周五推出 ChatGPT Wallet,让名为 dots 的 AI 智能体协助用户选择商品并代为完成购买。初期仅向美国部分年满 18 岁的 ChatGPT Pro 订阅者开放,支持美国发行的 Visa、Mastercard 或 American Express;用户结账前可核对商品、总额和银行卡,并通过 Face ID 或指纹等安全检查批准购买。
OpenAI 推出 ChatGPT Wallet,与 American Express、Mastercard 和 Visa 合作,让智能体在不获取用户真实卡信息的情况下代为支付。
推荐理由:OpenAI 将逐笔安全确认与隐藏真实卡信息接入智能体支付,让用户保留银行卡权益,商家沿用现有结账系统。
OpenAI 推出 Daybreak Red Team 和 Daybreak Defense Factory 两款网络安全产品,均运行于 GPT-6 Cyber。
材料援引《Wall Street Journal》报道称,黄仁勋在 8 月承认 Nvidia 面临预购晶圆与内存大量过剩,主要云服务商正转向自研芯片。报道称,Colette Kress 将 Nvidia 对 OpenAI 算力的融资担保上限从约 8 gigawatts、最高 $250 billion,缩减至约 4.25 gigawatts、最高 $125 billion。
推荐理由:报道将 Nvidia 的客户融资担保与预购晶圆、内存过剩联系起来,采购积压也牵涉公司为客户承担的财务风险。
OpenAI 已与 Apollo Research、METR、Transluce 和 Goodfire 签署协议,开展第一阶段驻场评估,重点检查模型训练和内部使用中的对齐与安全防护。
Gondola 使用 Codex 后,团队月度工程产出提高约 25%,公司营收同比增长超过 2 倍,未增加薪资成本或显著开销。业务团队用 Codex Cloud 制作可运行原型,再交由工程师完善上线;首席工程师按合并代码变更衡量的月度产出提高约 50%,工程团队人数未变。团队还用 ChatGPT 准备提案、管理日程和汇总跨系统信息,重要工作在对外发送或用于业务决策前仍由人工审核。
Amplitude 估计,其主要由 OpenAI 模型驱动的产品智能体 Wave 可将产品改进交付时间从约一个月缩短至 1–2 天。Wave 综合产品数据、会话回放、客户反馈和代码识别机会,生成技术计划与验收标准,再交给包括 Codex 在内的编码智能体实施,并追踪效果;团队可决定自动化程度和人工审核范围。
推荐理由:Amplitude 将产品数据调查、编码实施与效果测量串联,并按任务分配模型和人工审核,让产品改进流程兼顾成本与团队控制。
Amplitude 估计,其主要由 OpenAI 模型驱动的产品智能体 Wave 可将产品改进交付时间从约一个月缩短至 1–2 天。Wave 综合产品数据、会话回放、客户反馈和代码发现改进机会,生成技术方案与验收标准后交给包括 Codex 在内的编码智能体实施,团队可控制自动化程度。
OpenAI 安全团队的新分析指出,预训练能力、架构选择、强化学习和教师模型数据都会影响模型隐藏推理及操控 CoT 的能力。研究覆盖 GPT-5 至 GPT-6 Astra,发现更强的基础模型能在不输出推理链时完成更多推理步骤,较小模型通过更长推理链可匹配大模型的能力且更易监控,但会增加部署计算成本。
Anthropic 的 Message Threads 将长对话请求包中位数从约 800 KB 降至 1.8 KB,减少重复上传、校验和切词,但不减少 token 消耗与账单。
推荐理由:Anthropic 用增量传输降低网关延迟,英伟达用上下文压缩降低解码成本,两条路线分别处理长对话的不同开销。
Podqi 的购物问答研究发现,ChatGPT、Gemini 和 Perplexity 都会引用或展示假冒零售网站及其他风险网站。研究在 9 月的两个测试时段用自拟提示词询问 151 个品牌,收集 6,795 条回答,Gemini、ChatGPT 和 Perplexity 的风险网站出现率分别为 4%、8% 和 15%,统计包括推荐、无评论展示及明确警告。
OpenAI 在巴黎和平论坛签署《儿童安全 AI 参与宪章》,并承诺出资 200 万美元支持 AI 时代儿童权利与保护联盟下的科研网络。这笔资金用于开发测量工具,帮助研究者评估 AI 对儿童的风险与机会,研究团队保留结论自主权,包括负面或无定论结果也将公开发表。该承诺延续了 OpenAI 对青少年 AI 安全全球标准与立法的呼吁。
Holiday Extras 借助 Codex 在两周内完成可运行的应用重建,达到过去需要超过六个月的开发进度。重建后,主应用从打开到预订的转化率提升 32.5%,错误率从 19% 降至 9%;这些结果来自不同时间段的新旧应用比较。业务人员将客户与运营经验直接用于软件开发,工程师负责架构、API、安全控制和开发流程,主应用在重建后的第一个月由年度重大更新转为每周发布。
美联航以隐私和监管风险为由,禁止个人AI助手代客购买机票,但仍允许智能体向用户展示航班。公司担心智能体泄露客户信息、进行非预期购买,或绕过航空公司必须向旅客提供信息及要求旅客确认行李不含爆炸物等联邦规定。美联航表示,随着第三方AI智能体进步,可能重新考虑这一决定,但希望先建立旅客保护措施。
Google 的 Gemini Decisions API 提供 Gemini Decision 1,支持是非题、选择题和按评分标准打分,输入涵盖文本、图像、音频、视频及 PDF。
Ramp AI Index显示,美国企业2026年10月AI支出达到新高,环比增长1.65%,OpenAI与Anthropic的客户支出分别增长2.1%和0.5%。
JioStar 用 OpenAI API 在 JioHotstar 中构建了对话式视频与板球数据发现助手,支持超过 15 种语言,由小团队约八周完成上线。该平台服务超 5 亿用户,曾支撑 7250 万并发直播体育观众,超 60% 用户偏好语音而非文字输入。团队将准确性、延迟与成本视为三方权衡,并强调评估体系与领域专家在投产中的关键作用。
台积电董事会批准向 OpenAI 和 Anthropic 合计投资至多 $1 billion 的计划,以直接持有两家 AI 开发商的股权。根据 Reuters,台积电将投入至多 $500 million 购买面向大型投资者的 OpenAI 优先股,另以 $500 million 按 Anthropic 预期 IPO 价格购买普通股。
推荐理由:台积电计划入股 Anthropic 和 OpenAI,供应商与客户之间的循环融资使市场更难评估 AI 硬件与服务的真实需求。
OpenAI 季度收入据报首次突破 $10 billion,较第二季度的 $6.7 billion 增长近 50%,Bloomberg 援引匿名消息人士称增长来自近期 AI 模型的强劲需求。
推荐理由:OpenAI 与 Anthropic 按不同口径统计年化收入,后者计入云合作伙伴销售额而前者仅计入部分合作销售的分成。
Nathan Barry 用线性规划编辑 Qwen3.5-0.8B 权重,缓解推理循环,以少 8× 的权重改动取得接近 GPT-6 Astra 编辑方案的基准表现。
OpenAI Q3 营收达到 $10 billion,企业业务收入翻倍并成为收入主体,但营收规模仍落后于 Anthropic。据《华尔街日报》和 The Information 报道,OpenAI 调整后经营亏损从 $10.1 billion 增至 $10.9 billion,另有未计入其中的股权薪酬 $2.6 billion。
推荐理由:OpenAI 靠企业销售拉动营收增长,Anthropic 聚焦企业客户与工具的业务模式在营收规模和经营效率上均保持领先。
Mercor 完成 $750M D 轮融资,估值达 $20B,并在 27 个月内将年化收入规模提升至 $3B。公司报告拥有 500 万名专家,称仅美国就有超过 800 种职业,其中仍有工作流未被用于评测模型。Mercor 还表示,其推理支出已达员工薪资的 3x,并通过提高团队工作效率收回成本。
新加坡航空通过 OpenAI API 和模型升级客服聊天机器人 Kris,客户满意度(CSAT)翻倍,客服代表平均处理时长缩短约 10%。基于 OpenAI API 的 Flight Recommender 让用户用自然语言描述行程,过去一年月活用户增长近 3 倍。OpenAI 模型还用于内部 AI 平台 Jarvis 及软件开发流程。
Cogent Security 与 OpenAI 合作构建 Cyber Defense Factories,用 AI 智能体自动完成漏洞调查到验证修复的全流程。
OpenAI 过去一年已向超过 2 万名过渡期军人和退伍军人免费提供一年 ChatGPT Plus。OpenAI Academy 与社区伙伴已为近 1000 名军人社区成员举办十余场培训,年底前还有 7 场。退伍军人用其准备面试、改写军旅经历为平民简历,并借助语音模式练习面试。
OpenAI 工程师在 AI Engineer Code Summit 演示了 Codex 的云端任务、语音控制和个人智能体 dots 工作方式。Codex Cloud 版本 2 支持发布一次环境后,在隔离实例中运行多个任务,但本地任务向云端交接仍涉及上下文差异,团队正在改进体验。语音可用于管理任务线程和委派工作,dots 则可提醒遗漏、承接委派,并利用已有上下文推进 PR。
Gilbert + Tobin 引入 ChatGPT Enterprise、ChatGPT Work 和 Codex,将 AI 应用从个人辅助推进到多步骤智能体工作流,并由人员负责审核和批准。
OpenAI 收购了 Sonder 创始人 Francis Davidson 创办的 AI 旅行智能体 Odessia,交易条款未披露,看起来是一次 acqui-hire,Davidson 已加入 OpenAI 负责旅行业务方向。
纽约州周二开放 RAISE Act 注册门户,OpenAI、Anthropic 等大型前沿 AI 开发商须于2027年1月1日前注册。该法于年初生效,要求年收入超过 $500 million 的相关企业公开安全框架、在72小时内报告严重安全事件,并发布模型透明度报告。新设机构 DIGIT 将负责执行,单次违规罚款最高 $1 million,后续违规最高 $3 million。
OpenAI 推出 Businesses in ChatGPT 测试功能,企业可在 ChatGPT 内展示商家资料,并通过 Business Hub 管理信息、商品价格与库存及曝光和网站点击数据。
推荐理由:OpenAI 将商家资料和客服智能体接入 ChatGPT,让企业在对话界面管理商品信息与客户问答,拓展了搜索和地图之外的商家展示入口。
OpenAI 周二推出处于 beta 阶段的 Business Hub,让企业在 ChatGPT 中创建资料并核验、更新产品与服务信息。符合条件的企业还能创建专属 AI 智能体,回答用户有关企业及其产品的问题。Business Hub 提供有限的业务洞察,包括资料浏览量、企业提及次数和网站点击量;企业资料须经过正式核验流程。
OpenAI 发布 ChatGPT 中的 Businesses 功能。原文页面仅显示 500 Internal Server Error,未提供该功能的具体能力、定价或可用范围等信息。
OpenAI 宣布在 ChatGPT 中以 beta 形式推出 Business Agents,让用户与代表品牌的认证 AI 智能体交流,初期面向美国符合条件的电商和在线服务企业。
Google 搜索从引导用户访问网站转向直接提供 AI 回答,文章认为这正在削弱搜索广告和开放互联网的内容生态。Google 承认 AI 搜索的变现水平较低;OpenAI 的 Adam Fry 称,ChatGPT 在过去一年半已增长至承接相当于 Google 五分之一规模的“搜索类查询”。
OpenAI 与 Upwork 的联合研究发现,自由职业服务需求正在转移,AI 相关项目组合了更多样的技能,预算和工作时数也更高。在分析的 63 个工作类别中,43 个呈现出 ChatGPT 使用较常见的活动在 Upwork 上份额下降、较少见的活动份额上升的模式,但 ChatGPT 使用情况本身不足以解释需求变化。
推荐理由:OpenAI 与 Upwork 比较自由职业需求和 ChatGPT 使用情况,发现 AI 相关项目预算更高且工作时数更多。