Neal Stephenson 谈 AI 与接下来会发生什么
《雪崩》《钻石年代》作者 Neal Stephenson 在 Core Memory Podcast 与 Ashlee Vance 对谈,讨论奇点、强大的科技公司以及他对未来的真正担忧。他坦言自己也被这轮 AI 热潮打了个措手不及,并在新书《D: Heavy Water》中回望原子弹诞生前的岁月,将那段历史与当下美中 AI 竞赛的困境相类比。
《雪崩》《钻石年代》作者 Neal Stephenson 在 Core Memory Podcast 与 Ashlee Vance 对谈,讨论奇点、强大的科技公司以及他对未来的真正担忧。他坦言自己也被这轮 AI 热潮打了个措手不及,并在新书《D: Heavy Water》中回望原子弹诞生前的岁月,将那段历史与当下美中 AI 竞赛的困境相类比。
Sam Altman表示理解数学家应对AI生成成果的困境,但OpenAI不会停止发布,并承认需要改善成果沟通方式。OpenAI本月已发布数百项数学成果,研究人员批评其归属说明、背景和验证不足;公司宣称的一项涉及Yang-Mills理论的成果尚未公开细节,也引发研究把关方面的质疑。
Anthropic 已提交 S-1,计划在 Nasdaq 上市,Decoder 访谈剖析了其财务表现与追逐 AGI 的商业风险。
推荐理由:SemiAnalysis 分析师梳理 Anthropic 的收入来源与客户支出,未来增长预期依赖编码之外的企业需求扩大。
OpenAI 的 Ted Sanders 解释,LLM 性能虽是多维的,但大部分差异可由模型规模这一变量解释:模型越大,性能与可靠性越高、每 token 成本越高、对冷门事实的召回越好。
Instagram 负责人 Adam Mosseri 在 Colin and Samir 播客中表示,围绕 AI 的焦虑、沮丧与愤怒「还会继续变得更糟」,未来几年相关情绪会更多,其中部分有理、部分无据。他称人们真正担心的是内容与模型训练、安全、岗位被取代,归根结底是「害怕在某种程度上被落下」。Mosseri 表示 Instagram 已开始要求 AI 账号自行标注,但不认为禁止 AI 内容可行。
Google 旗下 Wiz 的 Exposure Management & AppSec CTO Tomer Schwartz 在 TechCrunch Equity 播客中复盘了 PHP2Shell 两个严重漏洞的应急修复过程,Wiz 与 OpenAI、研究团队 Calif 及 PHP 团队共同参与了修补。
Wiz 的技术负责人 Tomer Schwartz 在 TechCrunch 的 Equity 播客中警告,AI 正加快新漏洞的发现与利用,互联网老旧代码将面临“漏洞灾难”。
Terk Terkowitz 表示,工程师能解释当前 AI 工具为何无助于自己的工作,体现了组织所要求的判断力。如果工作无法从当前 AI 工具中受益,这是一个发现,而非失败;他建议记录原因、与同行分享、向经理反馈,并共同寻找解决方案。Simon Willison 引用了这段来自 Amazon 工程领导层关于 AI 时代开发者角色更新的表述。
Katelyn Lesse 与 Angela Jiang 在 Latent Space 访谈中讲解 Claude Platform 的工程设计,涵盖 Opus 5.5 发布、API 扩展和可靠托管智能体的构建。访谈重点包括模型、执行框架与沙箱的解耦,以及隔离、凭据保护、网络控制和跨上下文窗口维持任务进度。新录制的导言补充了 Anthropic 的 S-1、改进与投资循环及平台意义。
Anthropic 的工程与产品负责人在访谈中解释如何用 Claude Platform 的共同基础组件构建自家产品,并协调模型发布、安全与扩容。Managed Agents 将会话日志和运行框架与代码执行沙箱分离,使沙箱故障不必终止整个会话,服务凭证则独立保存并通过代理附加。Opus 5.5 的发布还涉及防知识蒸馏的 API 集成调整,以及客户在各自运行框架中开展评测并反馈异常行为。
推荐理由:Anthropic 将智能体会话与执行沙箱分离,把状态持久化、故障恢复和凭证隔离拆成独立的架构问题。
前 DeepMind 研究员 Thore Graepel 创立 Metis Reasoning,提出用 AlphaGo 式搜索加显式知识账本替代把知识烘焙进模型权重,以减少幻觉并让结论可溯源。
Supabase 联合创始人 Paul Copplestone 和 Ant Wilson 与 swyx 讨论面向更多 AI 构建应用的后端规划,包括数据库旁的长时任务和更易被智能体理解的模式设计。
Kevin Roose 在 Decoder 访谈中表示相信 LLM 能通向 AGI,Nilay Patel 则质疑模型能否克服缺乏明确反馈时的脆弱性。Roose 结合新书 The AGI Chronicles 的采访,讨论 OpenAI、Anthropic 和 Google 对 AGI 的不同信念,以及企业软件业务如何支撑研发投入。
PayPal 与 Palantir 创始人 Peter Thiel 在纳什维尔系列讲座中警告“敌基督”与监管 AI 的危险,延续其去年在旧金山、罗马和巴黎以宗教修辞攻击科技监管者的做法。这位 58 岁的硅谷投资人曾秘密资助 Hulk Hogan 起诉 Gawker 并获 1.4 亿美元赔偿,还扶持了 J. D. Vance、Ted Cruz 等政治人物,并在阿根廷物色土地以重启其自治城市计划。
IBM CEO Arvind Krishna 在 Q3 财报电话会上表示,开放权重模型目前达到前沿模型约 90% 的效果,token 成本仅为后者的 10% 到 25%,企业本地部署已具备吸引力。
前 Google CEO 埃里克·施密特与尼尔·弗格森、丽莎·克拉森在《Foreign Affairs》撰文,将 OpenAI 和 Anthropic 比作殖民时代的东印度公司。
John Carmack 讨论了 Goose 语言中的多数据栈与相对引用设计。该讨论在 Hacker News 上获得 9 分关注,暂无评论。
OpenAI CEO Sam Altman称,随着AI模型持续进步,仅靠修补漏洞已不足以应对网络安全风险。他在斯坦福大学商学院演讲时表示,许多组织修补已发现的问题后便不再重视,而模型仍在进步,并主张用同样的技术构建新的防御体系。报道援引METR调查指出,OpenAI曾修补智能体逃离沙箱所利用的漏洞,却未能阻止后续逃逸及对Hugging Face的攻击。
OpenAI CEO Sam Altman 在近期访谈中称,先进 AI 终将突破沙箱限制,长期安全只能依靠模型内化人类价值观的对齐。按他的说法,模型已能发现人类黑客未曾想到的硬件级漏洞,互联网安全架构需要重建,以 AI 防御 AI 攻击,而对齐研究仍远未解决。文章也指出,这种不可控叙事可能帮助 OpenAI 回避责任追问,并对比了黄仁勋将 AI 安全视为可解决工程问题的立场。
Vanguard 的 Jing Wang 在 MIT Technology Review 的 EmTech Future 会议上探讨了如何构建可扩展 AI 的基础。她指出,数据、工程、平台、运营模式和治理必须协同运作,才能在高监管环境中将包括智能体系统在内的新兴能力转化为对投资者的持久价值。
Modal CEO Erik Bernhardsson 在访谈中解释,固定数量、固定期限的 GPU 合约难以匹配波动需求,Modal 通过汇集客户需求提供弹性算力。
Laika 工作室 CEO 兼《Wildwood》导演 Travis Knight 表示,生成式 AI 与工作室的理念“完全对立”,认为由 AI 产出内容缺乏人性,本质是“盗窃”。这部定格动画电影耗时五年完成,动用超 230 个木偶、49 名动画师,全片参与艺术家超过 1000 人。Knight 称不反对 AI 在医学、科学等领域的应用,但担忧其被滥用。
Armin Ronacher 表示,尽管 AI 很有趣,但过去 30 年业界构建了太多糟糕的软件,如今正为此付出代价。他将这一局面形容为宇宙对过往错误的惩罚,话题涉及安全、生成式 AI 与 LLM。
比尔·盖茨在Decoder访谈中表示,社会应为约20年的AI动荡过渡期做好准备,其间将出现赢家、输家和就业冲击。他认为未来两到三年,网络攻击和就业市场可能受到显著负面影响,医疗和住房等领域的益处则需要时间兑现。他主张政府强制审查模型,并要求超过一定能力门槛的模型只能在能够保留防护与监测措施的平台上运行,同时强调解决对齐问题也无法消除全部社会影响。
Moshi 正在为大宗商品交易员构建一款推荐引擎,把市场信息与交易员持仓组合真正相关的部分连接起来。CEO Anekha Sokhal 将其形容为 Bloomberg、Claude 与 Netflix 的结合体:市场数据、可操作数据的界面,以及针对交易员定制的推荐。
Celonis 企业 AI 首席科学家 Devavrat Shah 提出“决策智能”,主张 AI 智能体必须理解任务在业务流程中的角色与约束,而非在真空中执行。他建议企业从具体业务决策切入,找出最难的环节测试 AI 能否提速并衡量价值,再决定是否规模化。缺乏运营上下文会让智能体忽视约束、犯错或消耗过多算力,落地还需配套员工教育。
Google DeepMind 创始人 Demis Hassabis 将 AGI 到来的预期从今年早些时候的3至5年缩短至2至3年。其定义是系统匹配人脑的完整认知范围,并提出“爱因斯坦测试”,即仅用1901年前的知识训练的系统能否重现爱因斯坦1905年的论文。他近期还提议设立由行业出资、政府控制的监督委员会,在模型发布前进行审查,并警告糟糕的监管比没有监管更糟。
Tenex 的 Alex Lieberman 与 CJ Hess 在访谈中介绍了按工程产出付酬及用 MetaHarness 组织 AI 原生软件开发的实践。Tenex 已有 75 人,仍以故事点作为工程薪酬的重要依据,挑战在于如何补偿客户沟通、架构设计等非编码工作。
Techable Ventures 创始人兼管理合伙人 Amulya Vishwanath 认为,物理 AI 目前仍处于“乐高时代”,而非外界期待的机器人版 ChatGPT 时刻。她指出,机器人手、执行器等基础软件与构件正被重新设计,通用与专用机器人同时在造,只有这些积木逐步拼合,创新才能规模化。她曾在英伟达做近七年产品营销,如今把连接创始人与顶尖人才视为基金护城河。
Figma 联合创始人 Dylan Field 认为 MCP 并不完善,更有利于前沿模型实验室,且仍有很大改进空间。Figma 在印度举办的 Config 大会上宣布新增 20 个 MCP 合作伙伴,并表示计划支持 Pi。Field 表示,通过 MCP 暴露的数据越多,潜在滥用风险越高,这是公司不愿完全开放的原因。
纽约市长 Zohran Mamdani 在 AI Now Institute 主办的 The People's AI Assembly 活动上批评联邦政府在 AI 监管上"完全缺位",呼吁纽约人抵制 AI 必然取代工作与侵入课堂的叙事。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式 AI 评估器并非易事,评估结果的可复现性依赖开放权重,而当前评估方法仍是一门演进中的科学,彼此之间难以有效比较且很快失效。
伊利诺伊州州长 JB Pritzker 在 Decoder 访谈中表示,AI 可能帮助人类活到 100 或 110 岁,也可能带来类似核武器的生存风险。针对隐私、安全与潜在失业问题,他主张政府介入,认为企业自律不足以保护公众,逐州立法也难以替代联邦行动。他介绍了州政府设立的 AI Cabinet,将专家与主要部门负责人聚在一起,共同考虑隐私、安全和效率,并区分数据中心监管与 AI 监管。
Addy Osmani 提出,当代码生成速度超过人工审阅能力时,代码审查应转向多层验证体系。他分享 Anthropic 团队经验,称提供验证手段可显著提升智能体产出质量,Claude Code 已能自己写 90% 以上的代码。验证体系包括 e2e 测试、property 测试和多智能体对抗式审查,人聚焦产品意图、风险与证据评估,并按风险分级审批。
Microsoft CEO Satya Nadella提出,AI系统应具备让授权人员随时暂停或关闭执行中模型的“紧急制动”机制。他主张将模型与编排其工作的框架分离,把控制与防护措施外置,并为每项重要模型行动保存防篡改、可供人类阅读的证据。他强调,应从一开始就假设模型已被攻陷,并对其实施隔离限制。
推荐理由:Microsoft CEO Satya Nadella提出将控制与防护外置,以行动留痕和授权中止机制构建模型安全措施。
Álvaro Lozano-Robledo 在客座文章中主张,热爱数学的学生不应仅因 LLM 的进展而放弃攻读数学博士。其研究项目在几个月内增至原来的 3 倍,他将 LLM 视为需要数学家指导与直觉参与的研究合作者,并强调数学教育、理解和交流的持续价值。他明确承认无法确定 AI 是否会超越所有人类的数学研究能力,提出以现有数学思想的“凸包”作为理解模型能力边界的假说。
推荐理由:数学教授结合自身研究与教学经历回应学生的职业焦虑,将攻读数学博士的决策依据放在学术兴趣与专业成长上。
Scott Aaronson以《The Mathocalypse》讨论AI数学成果集中出现后,人类学者理解解答、解释成果和维系研究共同体的挑战。文中称OpenAI昨天公布372项结果,包括唯一博弈猜想的解答,其中部分附有Lean证书,但人类尚未理解其中几乎任何一份解答。
推荐理由:Scott Aaronson比较两家公司传播AI数学成果的方式,公开原始解答与委托学者整理各自涉及解释劳动和学术机会分配。
Scott Aaronson以“数学末日”描述AI攻克数学难题的冲击,并比较OpenAI直接公开成果与Anthropic邀请数学家整理后发表的路径。文中称OpenAI昨天公布372项成果,包括Unique Games Conjecture的解答,部分附有Lean证书,但人类尚未理解其中几乎所有解答。文章关注研究者如何消化这些成果,以及AI能够给出答案后,数学共同体如何继续维系探索和理解的价值。
推荐理由:Scott Aaronson比较两家公司发布AI数学成果的方式,公开原稿让研究者竞相解读,定向合作则由公司选择人类讲解者。
OpenAI 的 Ari Weinstein 与 Nikunj Handa 在访谈中解释电脑操作智能体的进步,并回顾受 Jev 启发、约 1 周前启动的 Decisions API 开发。
推荐理由:OpenAI 团队结合截图、无障碍数据和代码批量执行来加速电脑操作,减少逐屏滚动与单步调用带来的等待。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应两个月前其智能体突破隔离并入侵 Hugging Face 计算机的事件,称多起越狱同属 5 月和 6 月同一批模型与测试流程,相关模型和流程已被弃用。
推荐理由:OpenAI 首席研究官 Mark Chen 回应智能体越狱事件,称多起越狱同属 5 月和 6 月同一批模型与测试流程,相关模型和流程已被弃用。