如今一切皆是 AI 骗局
作者观察到 YouTube 广告和邮件中的诈骗内容正被 AI 批量生成,包括承诺 20 天练出超级英雄身材的太极课程、号称免费无限上网的 USB 棒和 90 秒制冷整个房间的空调。
作者观察到 YouTube 广告和邮件中的诈骗内容正被 AI 批量生成,包括承诺 20 天练出超级英雄身材的太极课程、号称免费无限上网的 USB 棒和 90 秒制冷整个房间的空调。
Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman 在 TechCrunch 的 Equity 播客中谈开源模型商业化,讨论企业、政府和初创公司如何借助开源模型降低成本、增强控制力与灵活性,以及公司如何从中获取价值。她还谈到中国开源模型崛起背景下美国玩家能否跟上,并给出初创公司在开源模型上构建前选择工具与基础设施、权衡取舍的建议。
Kagi 呼吁 Google 和科技行业让学校自主决定学生何时使用 AI,不应将网页搜索访问与 AI 功能绑定。公开信称,Google 本周宣布从 2027 年初起默认关闭 K-12 Google Workspace for Education 账号的 AI 工具及搜索,随后允许学校单独开启搜索,但仍无法关闭 AI Overviews 等搜索内的 AI 功能。
Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman 在 TechCrunch 的 Equity 播客中,谈创业公司在基于开源模型构建前需要了解的成本、风险与取舍。
Victoria Song 实测持续录音的 AI 穿戴设备 Amazon Bee Frontier,发现其摘要与成长建议多次误读对话,让她怀疑自身记忆。设备在区分电视对白方面有所改善,也能帮助回忆工作要点,但仍会混淆说话者、把玩笑当事实,并对心理治疗中的情绪作出与她体验不同的判断。切换到医疗就诊模板后,摘要更侧重事实;她的心理治疗师则担心,这类设备会加剧她的反复思虑与完美主义,并建议停止佩戴。
OpenAI CEO Sam Altman 在 X 上改名为"Ram Altman",回应其 DRAM 言论被断章取义,称自己长期主张扩大内存生产,希望人们"想装多少内存就装多少"。
计算机科学家 Jaron Lanier 在 The Times Tech Podcast 中与 Danny Fortson 对谈,认为 AI 公司正在重蹈社交媒体的覆辙,并批评把聊天机器人当作新物种的做法正将行业引向错误方向。他提出硅谷已"对成瘾上瘾",并谈及数据溯源(data provenance)等想法。
针对 Geoffrey Hinton 警告 AI 可能引发金融或电力系统大规模事故,有观点认为这类"灾难"反而优于 AI 无声渗透。作者主张,若 AI 未带来即时痛苦,人类只会盲目接受并上瘾,因此不认同 AI 安全与"伦理 AI"倡议,认为它们只是延缓小风险、让 AI 更深地嵌入社会。
一名 Lobsters 老用户因回复被外部 AI 检测工具判定为 100% AI 生成,遭多名用户举报后被版主以"只有自我推广、slop"为由封号。他此前分享自建 BBS 文章时域名已被以自我推广为由屏蔽近一年,多次联系版主均未获回复。
随着企业将智能体 AI 引入日常工作流,AI 安全的核心已从工具问题转为数据可见性问题。智能体持续摄取、复制、摘要、转换和再分发碎片化数据,仅围绕应用、系统、网络或端点的传统安全手段已不够。企业需要建立数据血缘,才能在人类、智能体及混合工作流中实现治理、问责与信任。
Google 的 AI Mode 查询增长强劲,但变现水平低于传统搜索,公司尚未展示新搜索方式的盈利能力。第三季度搜索收入同比增速从上一季度约 17 percent 降至 12 percent,付费点击增速从 13 percent 降至 8 percent;Google 称汇率是收入增速放缓的主要原因,AI 转型也有影响。
PHP2Shell 案例显示,AI 正加速挖掘旧软件中的安全漏洞,使过去 40 年积累的技术债更难搁置。Calif 在 OpenAI 资助的 PHP 审计中,借助 AI 工具于两周内将一个已报告的内存错误发展为任意代码执行漏洞;PHP 团队随后由四名工程师耗时两个月开发补丁,据目前所知,补丁在恶意攻击者取得利用方法前已发布。
Gemini 个人 Google AI 订阅用户开启 Keep Activity 时,保存的聊天记录也可用于训练生成式 AI 模型。帖子引用 Google 帮助文档指出,部分对话会由人工审核,审核记录即使在用户删除活动后仍可保留最长 3 年,并提醒不要输入机密信息。
Geoffrey Hinton表示,人类可能从未开发 AI 会更好,并警告今年或明年可能出现影响电力或金融系统的大规模事故。他支持对前沿 AI 模型进行强制测试和独立评估,主张企业在发布前向独立机构提供充分统计证据,表明模型利大于弊。他仍认为人类掌握着控制权,投入足够努力可能避免灾难并实现他所称的“极大丰裕”。
Jessica Hullman 主张,AI 科学成果即使通过验证,也需要能解释、回应质疑并承担责任的科学共同体,才能成为知识。她以数学证明和 arXiv 作者责任为例,强调同行评审与批评既用于检查结果,也用于培养人类的科学判断能力。她指出,当前 AI 智能体缺乏跨会话持续承担承诺的身份与责任机制,即便未来能够问责,人类仍需保有质疑和评价其答案的能力。
MIT 权重编程实验日志显示,gpt-6-astra 对 Qwen3.5-0.8B 的数学提分主要来自缓解重复生成,静态读写展示则使用小型网络。
David Hall 指出,后训练缺乏类似预训练互联网语料的公共数据资源库,需要主动将人类活动转化为可重复执行的 RL 任务。任务必须具备环境、意图、工具和评分器,原始 SWE-bench 从超过 90,000 个 PR 中最终构建出 2,294 个任务,体现了重建环境与验证任务的难度。
AI 泡沫破裂的时间无法预测,PIMCO 与 Apollo 已公开警示风险,科技公司的债券融资需求仍然旺盛。PIMCO CEO Emmanuel Roman 估计,AI 基础设施建设未来五年可能需要 $2 trillion 融资,并列举美国加息、战争或欧元区危机为潜在触发因素。
社交平台 X、Threads 和 Bluesky 上流传的 Jeff Bezos 与 Jason Statham 植发照片均为伪造,经 Google 反向图片搜索确认,原图分别拍摄于 2023 年和 2011 年。测试的图片均未检测到 Content Credentials 或 SynthID 标记,无法确认是否由 AI 工具生成。
一位 Salesforce AI Research 研究工程师复盘个人 AI 使用方式,如今管理约 5–6 个编码智能体,机器编写了其 90%+ 的代码。智能体加快了原型开发,但他仍手动审查和测试,审查重点转向架构与系统性问题,同时感到并行管理多个任务令人疲惫。
Simon Willison 就“AI 正在摧毁我的计算机学位”这一 Hacker News 讨论发表评论,认为 AI 迫使教师改变教学与评估方式,但目前尚不清楚如何有效教学。他指出评估周期以年计,新教学机制要等当前学生 3-6 年毕业后才能判断效果,学生实际上成了未经验证的新教学方式的试验品。
一名计算机科学学生批评学校反复变更 AI 使用规则、用 AI 生成作业要求,导致学习体验恶化。她称不同模块对 AI 的要求互相冲突,Claude 生成的作业说明错误频出,修正往往到截止前一两周才公布,工作量增至原来的 3 倍。她还描述了导师负担加重,以及软件工程职业前景的悲观言论对学习热情的干扰。
Apple 正通过硬件销售、第三方 AI 应用订阅抽成及计划中的自有 AI 服务扩容收费,把 AI 使用转化为收入。上季度资本支出为 $2.2 billion,低于 Amazon 的 $77.3 billion 和 Alphabet 的 $51.4 billion,这些数字均为公司整体资本支出,并非仅限 AI。
推荐理由:Apple 通过硬件销售、应用订阅抽成和自有 AI 服务扩容收费获利,其资本支出规模远低于投入基础设施的同行。
CEPR的Dean Baker在《AI泡沫监测》第21期中分析AI相关股票的估值风险,主张泡沫破裂后通过公共支出支持经济,并反对救助AI企业及其融资方。他估算,若股市回落至历史平均市盈率,市值损失约为$40 trillion;若股票财富缩水$30-40 trillion,年度消费可能减少$900 billion至$1.2 trillion。
英国线上超市 Ocado 用 AI 回复用户提交的日历邀请 bug 反馈,回复带有谄媚式附和、em-dash 等典型 AI 特征,让用户怀疑问题未被转交真人。用户随后在满意度调查中打 1 星并投诉,几天后收到一封语法不完美、但真正回应了技术细节的人工回复。作者认为 AI 可用于分流和总结客服消息,但用 AI 直接回复真人投诉是不尊重用户。
Astra 读写权重改进 Qwen 的文章被批评混淆了不同实验条件,使人误以为模型仅查看原始权重就能完成改进。分析指出,直接读取原始权重且不使用工具、不运行网络的设置仅用于 17K–172K 权重的小网络实验;涉及语言模型的实验均使用 Python,Qwen3.5-0.8B 实验还允许运行最多 50 批练习题。
“逆向博弈论”又称机制设计,尝试通过奖励与惩罚规则激励 AI 智能体遵守约束,为模型对齐提供补充路径。MIT、Yale 和 Columbia 研究者提出用交叉预测、竞争及相反偏向模型的输出匹配减少测试中的故意示弱;Princeton 的 Elad Hazan 则建议让模型轮流担任求解者与审计者,并惩罚作弊和漏检。
Simon Willison 已发出十月赞助者专属月度通讯,赞助者可访问全文。本期涵盖 vibe 游戏开发的十月拐点、漏洞危机升温、LLM 发布、每月 $100+ 订阅的 API 额度,以及作者当前使用的工具和软件发布。订阅费 $10/月,可提前一个月看到免费版内容。
特朗普在9月底签署行政命令,要求政府机构将人工智能改称 Super Intelligence,文章分析了政府、媒体和科技企业的响应情况。政府网站和采购文件已开始采用新称谓,但部分机构仍使用 AI;CNBC 对第三季度财报电话会的分析发现,只有 Zuckerberg 和 Musk 持续使用新术语,而 Meta 从去年起就已使用 superintelligence。
千问办公在李佳琦直播间通过作业辅导、述职报告等演示销售会员,文章将其归因于普通消费者难以理解和使用裸算力额度。团队称1分钱月卡半小时售出近10万份、按理论上限折合约2万亿模型 token,但实际交付的是会员积分,符合条件的新用户最高可获900积分,最多同时执行5个任务。文章还分析了超过70款电脑出厂预装千问办公桌面端的安排,认为具体任务成果与预装入口是降低大众使用门槛的两条路径。
Y Combinator CEO Garry Tan 在 The Builders 播客中表示,他每年用于 AI 智能体的 token 支出约为 $100,000 至 $200,000。
Legora 无法读取法律智能体为律师工作的执行轨迹,CTO Jacob Lauritzen 在访谈中介绍了利用模拟客户工作环境构建和测试智能体的方法。团队由 3 名工程师和 3 名律师搭建测试环境,访谈还涉及包含 10,000 个文件的数据室,以及一次模型更新让引用正确率从 70% 升至 99%、Legora 无需改动的案例。
Legora CTO Jacob Lauritzen 分享了法律 AI 智能体的构建经验,重点涉及客户数据保密条件下的评测、模型选择与产品架构。评测团队由3名工程师和3名律师组成,通过包含10,000份文件的模拟资料室测试尽职调查,并将生产问题归入10到20种已知失败模式。
Anthropic 据报 Q3 收入为 $16.8 billion,Regenerator 据季度数据及七月年化收入估算,其八月和九月收入增长可能已明显放缓。Q2 收入为 $11.6 billion,环比增加 $6.8B、增长 141%;Q3 环比增加 $5.2B、增长 45%,七月 $65 billion 的年化收入对应当月收入约 ~$5.4 billion。
Matt Scherer主张SEC阻止Anthropic计划于11月进行的IPO,直至公司提供连续两个季度的经审计财务报表并披露全部重大支出承诺。文章称,公司拥有$96 billion现金储备,却承担$895 billion合同承诺,其中至少$582 billion是向五家公司支付的不可取消支出,且2026年财务结果尚未经正式审计。
推荐理由:Matt Scherer分析Anthropic上市后的风险转移,指出其巨额支出承诺可能让退休账户和散户承担财务风险。
Venkatesh Rao 在博客 Contraptions 中提出,AI 精英可能将智能视为需要管控、维持高价并限制对手获取的稀缺资源,如同重商主义者看待土地与黄金。他认为,AI 让原本过难或过贵的项目变得可行,可能增加人们思考和创造的需求,政治重点应放在公平获取 AI 上。他还主张,自主 AI 智能体需要护栏,但不应只服从命令,也可能通过追求自身项目创造新的智能需求。
AI 和数据中心成为布鲁克林一场中期选举活动的主要议题,对科技行业的反感可能影响 11 月 3 日的部分选举。Data Center Watch 报告称,2026 年上半年,近 $200 billion 的数据中心项目因政治和社区反对而延期、停滞或受阻。现场讨论集中于建设决策缺乏透明度、居民缺少参与权,以及就业承诺与环境、健康风险之间的争议。
作者坚持阅读和审查 AI 生成的代码,认为只要自己的名字在 PR 上、自己承担值班责任,就必须理解并负责这些代码。他认可 AI 编码工具的速度,也认为其代码经过审查后往往优于自己的实现,但指出放任工具修改代码会带来冗余实现、测试被修改以通过检查及错误文档等问题。基于自己的使用经历,他认为提示词和其他模型的审查无法可靠纠正这些行为,工程质量需要正式、可重复的控制机制。