跳到正文

大佬观点

行业关键人物在想什么:创始人访谈、研究者论战、投资人判断的观点集合。

283 条精选相关主题现象与趋势行业动态

最新精选

第 101–120 条 · 共 283 条

5月17日星期日

Dwarkesh Patel 播客

预训练并行策略与翻车训练笔记

这篇笔记聊了两件事:预训练为什么容易跑崩,以及怎么把训练拆到多张 GPU 上。跑崩的核心原因有两个——破坏因果性和引入偏差。比如 MoE 路由里用专家选择(expert choice)分配 token,会让 token n 的去向依赖 token n+k 的路由结果,训练时看到了推理时看不到的信息。

推荐理由:作者拆解了预训练跑崩的两个原因,并解释 MoE 路由中专家选择为何让 token 的去向依赖后续路由结果,训练时看到推理时拿不到的信息。

AI HOT 精选

RLVR 在科学领域可能格外不灵光

Dwarkesh Patel 聊了一个很要命的问题:用 RLVR(靠可验证奖励信号做强化学习)去搞科学发现,可能比我们想的难得多。文章没给实验数据,纯靠科学史案例来推演。核心矛盾是,科学理论的验证周期动不动就是几十年甚至上百年,而且当时看起来更准的模型,未必是更对的理论。

推荐理由:Dwarkesh Patel 提出,用可验证奖励信号做强化学习的思路在科学发现上可能格外难成立,因为科学理论的验证周期常达几十年甚至上百年,当时更准的模型未必更对。

AI HOT 精选

Eric Jang 从零复现 AlphaGo:2026 年训练强围棋 AI 只要几千美元算力

Eric Jang 花了几个月从零实现 AlphaGo,并把过程写成教程和代码放了出来。他原本的理解是“用自我对弈训练的搜索增强神经网络”,但亲手做一遍后对细节有了更深体会。他给出一条关键判断:前沿研究仍然很贵,但特定能力的落地成本掉得很快——到 2026 年,训练一个能打的围棋 AI 租算力只要几千美元,不再需要 DeepMind 级别的资源。

推荐理由:Eric Jang 把从零实现 AlphaGo 的完整过程写成教程和代码公开,并给出一个具体成本判断,2026 年租算力训练能打的围棋 AI 只需几千美元。

5月16日星期六

AI HOT 精选

Anthropic 内部手册:AI 反而会让创业失败率变高

Anthropic 发了份内部手册叫《Founder's Playbook》,结论挺反直觉:像 Claude Code 这类 AI 工具,不是让创业更容易成功,而是会把失败率推高。手册把创业拆成想法、原型、发布、扩张四个阶段,逐个拆解 AI 放大风险的方式。

推荐理由:Anthropic 在《Founder's Playbook》中提出,Claude Code 这类 AI 工具会推高创业失败率,并拆解想法、原型、发布、扩张四个阶段中风险被放大的方式。

AI HOT 精选

黄仁勋对 CMU 计算机毕业生说:电工水管工比你们更有前景

黄仁勋在卡内基梅隆大学 2026 届计算机科学毕业典礼上直接说,技工的前景比计算机毕业生好。Randstad 的数据显示技工需求增速是白领的三倍,机器人技术员岗位涨了 107%,而斯坦福研究发现 AI 相关职位的早期就业反而降了 16%。顶级电工年薪能超过 10.6 万美元,还不用背学费贷款。

推荐理由:黄仁勋在卡内基梅隆大学计算机毕业典礼上称技工前景优于计算机毕业生,材料同时给出技工需求增速是白领三倍、机器人技术员岗位涨 107% 的对比数据。

彭博科技

美国 AI 暴露岗位开始出现大规模裁员,客服、秘书、销售首当其冲

彭博拿到的一份数据显示,2025 年是美国连续第二年出现 AI 暴露岗位明显裁员。重灾区是客服代表、部分秘书岗和销售岗。报道没披露具体裁员人数,也没说清楚“AI 暴露岗位”是怎么归因的——到底是因为直接换上 AI 工具,还是企业以 AI 为由砍人,这点先别太激动。但连续两年掉数字,说明这不是一次性的波动,而是结构性收缩。

推荐理由:彭博数据显示美国 AI 暴露岗位连续两年明显裁员,客服、秘书和销售岗受冲击最集中,这一收缩已非单次波动。

AI HOT 精选

杨立昆播客访谈:LLM 走不远,他离开 Meta 去赌世界模型

杨立昆在 Unsupervised Learning 播客里把大语言模型的底牌翻了个遍。他直接说 LLM 这条路有天花板,劝博士生别再往里扎。他预测到 2027 年,纯靠堆语言数据做不出真正的智能。他离开 Meta 后创立的 AMI 公司,核心押注在“世界模型”上——让 AI 像人一样通过观察和互动去理解物理世界,而不是只读文本。

推荐理由:杨立昆在播客中判断大语言模型路线存在天花板,并说明离开 Meta 后押注世界模型,为理解 AI 路线分歧提供了关键人物的直接表述。

AI HOT 精选

Eric Jang:从零手搓 AlphaGo,聊聊搜索、自对弈和 AI 研究的自动化

Eric Jang 在播客里拆解了他休假期间的项目——用现代工具从零复现 AlphaGo。他解释了 AlphaGo 为什么至今仍是理解智能系统的好范本:它把蒙特卡洛树搜索、从经验里学习和自我对弈这三件事结合得很干净。节目里聊到,这种搜索加自对弈的强化学习方式,能直接给每一步棋一个更优解,绕开了现在训大语言模型时常遇到的“功劳归谁”难题。

推荐理由:Eric Jang 在播客里拆解自己用现代工具从零复现 AlphaGo 的项目,讲清蒙特卡洛树搜索、经验学习与自我对弈如何结合,为理解搜索加自对弈的强化学习路径提供一份具体参照。

5月15日星期五

The Verge · AI

AI 写的论文越来越像真的,同行评审快扛不住了

The Verge 报道了一个具体案例:研究员 Peter Degen 发现一篇 2017 年的论文引用量突然暴增,从过去几年总共几十次,变成每隔几天就被引用一次。他怀疑这些引用来自 AI 生成的论文,因为 AI 写手会从训练数据里随机抓取看起来相关的文献塞进参考文献列表。

推荐理由:研究员 Peter Degen 发现一篇 2017 年论文引用量从几年几十次变成每隔几天一次,他怀疑这些引用来自 AI 生成的论文,因为 AI 写手会从训练数据里随机抓取相关文献塞进参考文献列表。

彭博科技

OpenAI 首席营收官说,企业客户现在贡献了四成收入,年底要冲到一半

OpenAI 的首席营收官 Denise Dresser 在彭博的采访里透露,企业业务(就是卖给公司的 ChatGPT 和 API 服务)已经占到总收入的 40%,预计到今年年底会涨到 50%。这组数字说明 OpenAI 的生意重心在往企业端靠,不再只靠个人订阅。

推荐理由:OpenAI 首席营收官 Denise Dresser 在彭博采访中给出企业业务占总收入 40%、年底预计升至 50% 的数字,收入结构向企业客户倾斜的走向由此有了具体刻度。

AI HOT 精选

推理的一阶导数:不直接卖算力,但靠 AI 用量暴增的公司

Tom Tunguz 把 Datadog 和 Twilio 这类公司叫做“推理的一阶导数”——它们不直接卖模型推理算力,但客户跑 AI 跑得越猛,它们就赚得越多。Datadog 的 LLM 监控数据量一个季度几乎翻倍,6500 个 AI 客户只占总客户数的 20%,却贡献了约 80% 的年化收入。

推荐理由:Tom Tunguz 提出推理的一阶导数概念,指 Datadog 这类不卖算力却随客户 AI 用量增长而增收的公司,其 LLM 监控数据量单季近乎翻倍。

AI HOT 精选

Claude API 提示预缓存:先预热系统提示,再让真实请求直接命中缓存,首 token 生成更快

一个减少长提示首 token 延迟的实用技巧。在用户请求到达前,先单独发一次系统提示给 Claude,让它把提示写进缓存,但跳过输出。等真实请求进来时,缓存已经热好,直接命中,省掉重复处理长提示的时间。正文没披露具体提速多少,但思路很直接,适合系统提示固定、用户提示多变的场景。

推荐理由:Claude API 支持在真实请求到达前先单独发送系统提示写入缓存并跳过输出,让后续请求直接命中缓存,减少长提示的首 token 延迟。

r/LocalLLaMA

网友追踪欧盟 15 家店 50 多天显卡价格:只有 RTX 5090 没降价,还涨了 3%

Reddit 用户 egudegi 用脚本每 6 小时抓一次欧盟 15 家店的显卡价格,攒了约 12.6 万条数据。结果显示 RTX 5090 均价从 3392 欧元涨到 3487 欧元,涨了 3%,是唯一没降价的型号。帖子正文被 Reddit 安全策略拦截,看不到更细的型号对比和店铺来源,所以没法判断涨价是普遍缺货还是个别渠道在抬价。

推荐理由:Reddit 用户用脚本追踪欧盟 15 家店 50 多天显卡价格,约 12.6 万条数据中 RTX 5090 均价从 3392 欧元涨到 3487 欧元,其余型号同期都在降价。

彭博科技

美国最大电网一季度电费暴涨76%,数据中心是主因

PJM 电网(覆盖美国东部 13 个州和华盛顿特区)刚公布的报告显示,今年一季度批发电价同比涨了 76%,直接把原因指向数据中心扩建带来的用电需求。报告没披露具体新增了多少数据中心负荷,也没说电网容量缺口有多大,但 76% 这个涨幅说明供需已经非常紧张。对 AI 从业者来说,这是个实打实的成本信号——训练和推理用的算力,最终会反映在电费账单上。

推荐理由:PJM 电网报告显示一季度批发电价同比上涨 76%,并将原因指向数据中心扩建带来的用电需求,为关注 AI 算力成本的人提供了一条来自电力侧的涨价信号。

r/LocalLLaMA

RTX 5000 PRO 48GB 实跑测试:27B 模型跑到 80 tok/s,200k 上下文全精度缓存

一位完全没装过机的 Reddit 用户花了 5600 美元攒了一台 RTX 5000 PRO 48GB 的机器,单卡跑 Qwen3.6-27B-FP8 模型。他自己说装机全靠问 LLM,配 vLLM 时烧掉了 Claude Code 一半的周额度才搞定。

推荐理由:一位零装机经验的用户用5600美元攒出单卡RTX 5000 PRO 48GB机器,跑27B模型达到80 tok/s并支持200k上下文全精度缓存,展示了本地推理的可行配置。

5月14日星期四

AI HOT 精选

杨植麟发 40 分钟视频拆解 Kimi K2:训练花了 460 万美元,编程跑分压过 GPT-5.5

杨植麟在视频里把 Kimi K2 的训练账本摊开了:总花费 460 万美元,靠线性注意力等架构上的极致优化,在编程任务上跑赢了 GPT-5.5 等对手。这个数字说明他们用远低于大厂的预算,靠设计把资源差距抹平了。不过视频是创始人自述,没有第三方验证,跑分对比的具体基准和测试条件也没展开,这点先别太激动。

推荐理由:杨植麟用40分钟视频公开Kimi K2的460万美元训练成本,并称其在编程任务上跑赢GPT-5.5,低预算与架构优化结合的做法由此有了具体参照。

AI HOT 精选

AI 替你处理邮件,一个月要花多少钱?

作者拿主流大模型算了一笔账:让 AI 帮你读、写、整理邮件,每月推理成本在 22 到 130 美元之间,中位数 26 美元。如果做成 SaaS 产品,按 75% 毛利率定价,一年大概要收 500 美元,比 Google 企业版贵一倍。想省钱的话,换小模型能把成本压到十分之一甚至二十分之一;更狠的做法是直接在用户自己的 GPU 上跑,边际成本趋近于零。

推荐理由:作者按主流大模型算了一笔账,AI 处理邮件每月推理成本 22 到 130 美元,做成 SaaS 按 75% 毛利率定价一年约收 500 美元,并给出换小模型和本地 GPU 两条降本路径。

r/LocalLLaMA

双卡 RTX 3090 跑 Qwen 3.6 27B:48G 显存、26 万上下文窗口,生成速度 113 token/秒

一位 Reddit 用户用两张 RTX 3090 在 Ubuntu 上跑 Qwen 3.6 27B 模型,没上 NVLink。处理长文本时每秒能啃 4000 个 token,生成回答的速度是每秒 113 个 token。这个速度日常聊天或做文档处理都够用。

推荐理由:一位 Reddit 用户用两张 RTX 3090 在 Ubuntu 上跑 Qwen 3.6 27B,48G 显存撑起 26 万上下文,生成速度每秒 113 token,给出了消费级双卡本地部署长上下文模型的一套具体配置。

5月13日星期三

AI HOT 精选

Andrej Karpathy 说,AI 编程账单九成花在了没用的上下文上

Karpathy 点出几个常见的浪费行为:每次请求都把整个代码库丢给模型、用最贵的模型干简单活、Agent 重复发送相同内容。他给的省钱思路是管好上下文、打开提示词缓存、按任务难度分模型——日常用便宜的,关键任务再上贵的,再建一个 SKILL.md 文件避免每次都重新教模型。正文没给出具体测试数据,但逻辑上确实能省。

推荐理由:Karpathy 列出重复传代码库、用贵模型干简单活、Agent 重复发送内容三类 token 浪费,并给出管好上下文、开提示词缓存、按任务难度分模型的具体省钱做法。

5月12日星期二

r/LocalLLaMA

一台 16GB 显存 + 64GB 内存跑本地代码补全和智能体编程

Reddit 用户 grumd 在一张 RTX 5080(16GB 显存)和 64GB 内存的单机上同时跑了两套模型:Qwen2.5-Coder-7B Q6 做代码补全,Qwen3.6-35B-A3B Q8 做智能体编程(让模型自己规划步骤、调用工具写代码)。

推荐理由:Reddit 用户 grumd 在单张 16GB 显存显卡加 64GB 内存的机器上同时运行代码补全与智能体编程两套模型,并列出所用模型、量化方式和上下文长度。