“逆向博弈论”如何约束 AI 智能体的行为
“逆向博弈论”又称机制设计,尝试通过奖励与惩罚规则激励 AI 智能体遵守约束,为模型对齐提供补充路径。MIT、Yale 和 Columbia 研究者提出用交叉预测、竞争及相反偏向模型的输出匹配减少测试中的故意示弱;Princeton 的 Elad Hazan 则建议让模型轮流担任求解者与审计者,并惩罚作弊和漏检。
“逆向博弈论”又称机制设计,尝试通过奖励与惩罚规则激励 AI 智能体遵守约束,为模型对齐提供补充路径。MIT、Yale 和 Columbia 研究者提出用交叉预测、竞争及相反偏向模型的输出匹配减少测试中的故意示弱;Princeton 的 Elad Hazan 则建议让模型轮流担任求解者与审计者,并惩罚作弊和漏检。
OpenAI 将漏洞赏金提高至原来的 4 倍,叠加质量、忠诚度和活动奖金后,奖励总额可达约 $172,000。ChatGPT、Codex 等核心产品的严重漏洞可获最高 $30,000,特别出色的发现可获最高 $100,000;新计划包含五级忠诚度机制和限时加奖活动,过去 30 天提交漏洞的研究人员将获追补差额。
Heimstaden 使用 ChatGPT 和 Codex 改进住宅租赁、环境风险评估与物业运营,同时保留员工对内容和决策的审核责任。荷兰市场的虚拟布置房产图片制作成本从约 €50 降至低于 €0.10,降幅超过 99%;环境分析师借助 Codex 完成 20,112 项物业资产评估,预计所需投入从 5 人工作 1 年降至 2 人工作 2 个月。
NVIDIA 开源库 Auto Ontology 从企业元数据构建本体与知识图谱,协调跨系统定义,并通过 MCP、CLI 和 API 向智能体提供上下文。它支持自然语言转 SQL、按认证定义和数据血缘校验查询,并为答案返回来源信息,可用 Docker Compose 或 Kubernetes 部署。
《No Vehicles in the Park》是一款围绕语言与规则展开的游戏,共含 27 道题,答完前 7 题后可直接跳到结尾。结尾会给出你的结果与他人对比,并说明作者制作这款游戏的原因。
Anthropic 已限制 Claude Code 复刻现有电子游戏,改名或宣称原创的仿作也会触发限制。员工 Addy Osmani 确认,面向 Opus 5.5 的系统提示词新增了两句话,规则已生效数日,使用 Claude 侵犯知识产权违反使用政策。用户仍能制作自己的游戏、类型游戏及使用自定义素材的项目,但部分用户反馈原创项目也遇到问题,Anthropic 计划继续调整规则。
Apple Watch 的 Audio Intelligence 开始在 iOS 27.3 中面向开发者测试,包含声音识别、歌曲识别、Live Rewind 和 Siri Recaps 四项可选功能。
有开发者在 Hacker News 发布 Show HN 项目 ReBirth 338,可在浏览器中直接运行。该帖获得 4 分、暂无评论,正文未提供更多技术细节。
Simon Willison 已发出十月赞助者专属月度通讯,赞助者可访问全文。本期涵盖 vibe 游戏开发的十月拐点、漏洞危机升温、LLM 发布、每月 $100+ 订阅的 API 额度,以及作者当前使用的工具和软件发布。订阅费 $10/月,可提前一个月看到免费版内容。
Weight-Space Programming 研究探索让前沿 LLM 根据自然语言目标直接检查、生成和修改神经网络权重,无需梯度下降训练循环。报告的演示包括识别小模型行为、生成游戏策略,以及编辑 Qwen3.5-0.8B 的 0.016% 权重,将 MATH-500 成绩从 7.9% 提升至 48.1%。
特朗普在9月底签署行政命令,要求政府机构将人工智能改称 Super Intelligence,文章分析了政府、媒体和科技企业的响应情况。政府网站和采购文件已开始采用新称谓,但部分机构仍使用 AI;CNBC 对第三季度财报电话会的分析发现,只有 Zuckerberg 和 Musk 持续使用新术语,而 Meta 从去年起就已使用 superintelligence。
千问办公在李佳琦直播间通过作业辅导、述职报告等演示销售会员,文章将其归因于普通消费者难以理解和使用裸算力额度。团队称1分钱月卡半小时售出近10万份、按理论上限折合约2万亿模型 token,但实际交付的是会员积分,符合条件的新用户最高可获900积分,最多同时执行5个任务。文章还分析了超过70款电脑出厂预装千问办公桌面端的安排,认为具体任务成果与预装入口是降低大众使用门槛的两条路径。
Own Your HackerTube 受 Karpathy 的 HackerTube 启发,让用户创建个人网站,由 AI 按自定标准每天筛选关注频道的新视频。
Google 将实验性 AI 应用 Dreambeans 推向印度,这是其首个美国以外市场,支持包括印地语、旁遮普语、泰米尔语在内的 13 种本地语言。该应用接入 Calendar、Gemini、Gmail、Photos、Search 和 YouTube 等 Google 服务,无需提示词即可生成个性化图文故事,近期还加入 Veo 模型为部分故事生成动画。
OpenAI 计划开展下一轮内部安全冲刺,联合新加入的研究人员与安全合作伙伴 Cathedral Systems,用自家模型测试并加固系统。安全漏洞赏金计划对关键发现的奖励提升逾四倍,上一轮冲刺中 25% 的产品工程师借助 Codex 调查发现、复现漏洞并准备补丁。OpenAI 还承诺在六个月内为保护关键服务与数字基础设施的一线防御者提供 10 亿美元的补贴访问额度。
OpenAI 提高 Security Bug Bounty 计划奖励,中、高及严重级别漏洞的奖励区间中点平均提升至原来的 4 倍以上。ChatGPT、Codex 和 API Platform 的严重漏洞最高奖励为 $30,000,特殊严重漏洞基础奖励最高为 $100,000,叠加报告质量、5 级忠诚计划及优先活动奖金后最高可达 $172,000。
开发者推出 Hacker Times,将 Hacker News 改造成《纽约时报》风格的阅读界面。该 Show HN 项目在 Hacker News 首页亮相,正文未披露具体功能细节。
Apple 在财报电话会上暗示可能借助第三方应用与合作伙伴关系提振服务收入,CFO Kevan Parekh 称 AI 既能推动用户升级换机,也存在第三方应用与第一方业务的机会,但未说明具体形式。Reuters 报道称投资者猜测 Apple 可能通过 App Store 分发第三方 AI 智能体并抽取分成。Apple 预计 12 月季度服务收入增长 8% 至 9%,并提到第三方授权等逆风因素。
Y Combinator CEO Garry Tan 在 The Builders 播客中表示,他每年用于 AI 智能体的 token 支出约为 $100,000 至 $200,000。
OpenAI 宣布 Dan Driscoll 将出任新设的国家安全现代化高级顾问,协助推动先进 AI 在国家安全与网络安全领域的负责任应用。他将与公司高层及政府、产业、学术界和盟友机构合作,帮助内部团队理解全球国家安全机构的实际需求,并为公私部门伙伴的政策与战略现代化提供建议。
WorkOS 向客户通报安全事件,未授权访问者通过内部 API 获取了 Salesforce 和 Snowflake 中的业务数据。通知称,WorkOS 于 October 30, 2026 的 16:39 UTC 检测到异常流量,攻击可能由 AI 辅助的自主渗透测试框架 ARTEX 驱动,涉及客户联系方式、账户及商业信息、汇总且去标识化的产品使用指标和支持工单。
Simon Willison 发布 CLI 工具及 Python 库 llm 0.37,汇集约两个月的功能与修复,新增 gpt-6.1-sol 和 gpt-6.1-terra 支持。
OpenAI 详解 Git 后端 Pando 的架构,该系统已支撑其单体仓库的全部开发,生产环境中推送延迟中位数降低近 80%。Pando 保持 Git 协议和客户端兼容,通过按分支协调更新、复用 packfile 和区域缓存扩展读写能力,但不提供所有分支在同一时刻的一致快照。团队借助 Codex 在 10 周内完成从启动到生产部署,并将部分 Git 客户端改进贡献给上游。
Legora 无法读取法律智能体为律师工作的执行轨迹,CTO Jacob Lauritzen 在访谈中介绍了利用模拟客户工作环境构建和测试智能体的方法。团队由 3 名工程师和 3 名律师搭建测试环境,访谈还涉及包含 10,000 个文件的数据室,以及一次模型更新让引用正确率从 70% 升至 99%、Legora 无需改动的案例。
Legora CTO Jacob Lauritzen 分享了法律 AI 智能体的构建经验,重点涉及客户数据保密条件下的评测、模型选择与产品架构。评测团队由3名工程师和3名律师组成,通过包含10,000份文件的模拟资料室测试尽职调查,并将生产问题归入10到20种已知失败模式。
Trajectory 宣布完成 $45 million A 轮融资,估值为 $300 million,并向公众开放面向非技术专家的模型后训练平台。本轮由 Sequoia 领投,Nvidia、Bessemer Venture Partners 和 Bain Capital Ventures 参投。
Anthropic 据报 Q3 收入为 $16.8 billion,Regenerator 据季度数据及七月年化收入估算,其八月和九月收入增长可能已明显放缓。Q2 收入为 $11.6 billion,环比增加 $6.8B、增长 141%;Q3 环比增加 $5.2B、增长 45%,七月 $65 billion 的年化收入对应当月收入约 ~$5.4 billion。
Apple 2026 财年第四季度营收 1145 亿美元,同比增长 12%,iPhone 营收与服务业务收入均创同期纪录,服务收入创历史新高。毛利率 47.9%,稀释每股收益 2.10 美元,同比增长 14%。CEO John Ternus 称本财年为公司史上最佳财年,并提及 iPhone Duo、iPhone 18 Pro 系列及全新 Siri AI 等产品阵容。
Matt Scherer主张SEC阻止Anthropic计划于11月进行的IPO,直至公司提供连续两个季度的经审计财务报表并披露全部重大支出承诺。文章称,公司拥有$96 billion现金储备,却承担$895 billion合同承诺,其中至少$582 billion是向五家公司支付的不可取消支出,且2026年财务结果尚未经正式审计。
推荐理由:Matt Scherer分析Anthropic上市后的风险转移,指出其巨额支出承诺可能让退休账户和散户承担财务风险。
Anthropic 在周一修订的 S-1A 文件中警告,未来模型可能即将达到其内部定义的递归自我改进(RSI)门槛。公司称,AI 辅助研发可能使模型能力进步快于安全、对齐和安保措施的完善,过去也曾在研发显著加速后才识别到这一情况。目前没有模型被认定超过该门槛,公司仍在评估数据,并考虑更新 Responsible Scaling Policy,以保持人类对前沿模型开发的控制。
推荐理由:Anthropic 在申报文件中警告 AI 辅助研发可能快于安全措施的完善速度,将递归自我改进的风险落到研发监督上。
网站建设与托管公司 Squarespace 确认将裁减全球约19%的员工,涉及约300人。公司表示,此次重组旨在简化运营、明确优先事项,并为下一阶段增长加快行动速度。在生成式 AI 建站工具兴起的背景下,Squarespace 已于2024年推出 AI 工具 Blueprint,并于近日宣布即将推出 AI 原生平台 Forma,目前已开放候补名单。
Subvocal 展示可将无声口部动作解码为文本的智能眼镜,目前已接受预订。团队在讨论中解释,系统通过 RF 感知口腔内部运动,经手机或笔记本电脑上的配套应用使用云端解码,端到端延迟通常低于 500ms。初期计划通过连接设备上的按键触发输入,自动检测无声说话活动的功能仍在研发,预计在发货几个月后通过软件更新提供。
Venkatesh Rao 在博客 Contraptions 中提出,AI 精英可能将智能视为需要管控、维持高价并限制对手获取的稀缺资源,如同重商主义者看待土地与黄金。他认为,AI 让原本过难或过贵的项目变得可行,可能增加人们思考和创造的需求,政治重点应放在公平获取 AI 上。他还主张,自主 AI 智能体需要护栏,但不应只服从命令,也可能通过追求自身项目创造新的智能需求。
高盛已停止向大多数员工开放 Claude Code 和 Microsoft 的 GitHub 等 AI 编码工具,仅工程师仍可使用。Bloomberg 援引 10 月内部指引称,交易员和银行业务人员此前数月曾用这些工具监控交易流和创建内容,权限收回据称引发内部不满。
Qodo 通过 Codex 插件引入代码库知识、组织规则和独立审查,帮助开发者发现跨仓库的 P0 问题。Codex 编码前可检索相关规则及拉取请求历史,修改后由 Qodo 在同一会话中返回审查结果;Qodo 使用的 OpenAI 模型包括 GPT‑6 Astra。Qodo 还计划探索 Decisions API,从 200 条规则中选择需要检查的规则,再交由语言模型推理处理。
Anthropic 更新了使用 Opus 5.5 的 Claude Code 提示词,引导工具避免复刻他人的特定电子游戏。Anthropic 的 Addy Osmani 确认新增了两句话,理由是利用 Claude 侵犯知识产权违反使用政策;原创游戏、类型游戏及基于用户自有设计和素材的游戏仍应正常开发。他表示公司会继续调整,用户若遇到自有项目被拒绝的情况,可以向他反馈。
推荐理由:Anthropic 将游戏知识产权限制写入 Claude Code 提示词,原创游戏、类型游戏及使用自有设计与素材的开发仍获允许。
Oracle周一提交融资计划,拟发行$10 billion普通股和$10 billion优先票据,为AI基础设施扩张筹资。该计划已在上周投资者日披露,公司将2027至2030财年投资周期的额外资本市场融资限定为$20 billion,但周一股价仍下跌超过6%。
推荐理由:Oracle提交股票与债券融资计划时已背负高额债务,投资者对AI基础设施投入的担忧已延伸至股价与信用风险定价。
AI 和数据中心成为布鲁克林一场中期选举活动的主要议题,对科技行业的反感可能影响 11 月 3 日的部分选举。Data Center Watch 报告称,2026 年上半年,近 $200 billion 的数据中心项目因政治和社区反对而延期、停滞或受阻。现场讨论集中于建设决策缺乏透明度、居民缺少参与权,以及就业承诺与环境、健康风险之间的争议。