Google 开源 TorchTPU,与 Amazon 共同挑战 Nvidia 的 AI 开发生态优势
Google 周二宣布开源 TorchTPU,让现有 PyTorch 应用只需修改配置、无需重写代码即可迁移至 TPU 和 Google Cloud。Amazon 周一发布的 TorchNeuron 同样支持应用迁往 Trainium 和 AWS,并向 PyTorch 主项目提交解除部分功能与 Nvidia 芯片绑定的代码。
Google 周二宣布开源 TorchTPU,让现有 PyTorch 应用只需修改配置、无需重写代码即可迁移至 TPU 和 Google Cloud。Amazon 周一发布的 TorchNeuron 同样支持应用迁往 Trainium 和 AWS,并向 PyTorch 主项目提交解除部分功能与 Nvidia 芯片绑定的代码。
Databricks 推出 MemCurrent 持久记忆架构,已用于 Agent Bricks Memory 和 Genie。它结合保存原始会话的情景记忆与提炼经验的派生记忆,通过插件、按需工具和离线 dreaming 流水线读取、写入及整理记忆。在来自真实企业任务的内部基准上,相比无记忆方案,通过率从 22.3% 提升至 68.4%,token 用量减少 31%,运行速度加快 26%。
Google 与 Meta 合作推出开源 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,支持即时执行与 torch.compile。
Perplexity CEO Aravind Srinivas 宣布,Perplexity Computer 现可在 Mac 上完全本地运行,无需云端推理或 WiFi。模型和智能体均在本机运行,可操作 Mac 原生应用和本地文件,敏感数据不必发送到云端。该功能现已在 Perplexity Mac 应用中可用。
推荐理由:Perplexity Computer 将模型和智能体放在 Mac 本机运行,操作原生应用和本地文件时敏感数据不必发送到云端。
Google 为 Gemini 推出小企业专用商业入口、营销与财务技能及新的应用连接,将在未来几天向全球所有 Gemini 应用用户逐步开放。企业可上传网站、品牌素材包、字体或配色,结合 Nano Banana 2.1 生成视觉素材,Gemini 会保留品牌风格,无需反复上传规范。
推荐理由:Gemini 将品牌素材生成、财务分析和商业应用连接集中到小企业入口,减少经营者重复上传品牌规范和自行解读财务数字的工作。
SIwithin 可在指定目录和美元预算约束下无人值守运行 Claude Code 或 OpenAI Codex CLI,并为每次运行留下成本及完成状态记录。工具仅支持 macOS,Claude 适配器通过本地回环 API 代理隔离真实密钥、计费并限制网络访问,但跨过预算的单次响应仍可能造成超支。
Respan 发布开源 Rust AI 网关,以小型核心和公开接口支持插件化扩展,目前处于 pre-alpha 阶段。供应商适配、MCP、实时语音、图像与视频,以及智能路由、回退和个人身份信息脱敏均可通过插件实现;跨协议转换并不覆盖所有功能。
Penmentor 将 Claude、Gemini 或 GPT 接入 xournal++,按键即可在手写数学页面上标注错误、给出提示并生成交互动画。它通过 Claude Code、Codex 或 Antigravity CLI 使用已有订阅,支持整页读取、分级提示和基于 manim 的动画;演示视频使用脚本控制笔迹及固定模型回答。
JMS Code 在 GitHub 发布 Jev Cards,一款让玩家与视觉模型 Jev 1.14 同图竞答的看图问答游戏,覆盖水果、国旗、地图、国际象棋和视错觉等 490 张卡片。Jev 1.14 是决策模型,一次调用即读取图片与问题,为每个选项返回概率,约四分之一秒作答且不生成文本。游戏提供限时冲刺、10 秒一题的 Versus、连胜和好友同题实时对战模式。
Google 发布基于 TorchTPU 的 vLLM 与 SGLang 原生 PyTorch 推理后端,分别与 Inferact 和 RadixArk 联合开发。
Google 发布适配 Google Cloud TPU 的 TorchTitan 分叉,提供分布式训练配方及按步骤执行的模型优化指南。SimpleFSDP、Graph Trainer 和 Pallas 内核支持分片、整步图捕获及计算优化,FLUX.1 案例的训练步耗时从 11.49 秒降至 2.78 秒,达到同硬件 JAX MaxDiffusion 吞吐量的约 99%。
Cloudflare、VoidZero 与 Owner.com 的 Max Schwenk 合作开发 tsrs,将 TypeScript 编译器移植到 Rust,实验版本已可通过 npm 安装。
Adobe 宣布 iOS、iPadOS 和 Android 版 Lightroom 移动端可用生成式 AI 一键睁开照片中闭着的眼睛,检测到人物闭眼时会自动显示 Open Eyes 快捷操作。该功能会参考你 Lightroom 图库中同一人物的其他照片,让替换后的眼睛在颜色、大小和形状上更匹配。免费版用户可试用两次,之后需订阅包含更多 AI 额度的 Adobe Creative Cloud 计划。
llm-d 项目贡献者在 PyTorch Conference North America 宣布发布 llm-d 1.0,强化生产环境中的多租户服务质量、零停机运维和智能体感知服务。
Cursor 正式发布 Agent SDK,支持用代码定义智能体,并通过 agent-sdk deploy 部署到 Cursor 基础设施。该框架支持响应 PR 等事件、任务移交与并行子智能体,内置评估和事件回放,提示词与工具可纳入版本控制和审查流程。智能体也可作为单个 Node 进程在自有基础设施运行,原文链接为 https://cursor.com/blog/agent-sdk。
推荐理由:Cursor Agent SDK 将提示词、工具和评估组织为代码项目,让团队自定义智能体沿用软件的版本控制与审查流程。
Yelp 新增 Check for Me 功能,由语音智能体代用户致电餐厅查询等位时间,并通过短信返回结果。用户在餐厅页面输入用餐人数和电话号码即可使用;Yelp AI 助手也新增 OpenTable 订位集成、偏好记忆和自定义提醒,并支持查看过去 30 天的聊天记录。
DeepSeek 开源支撑其大规模生产服务的推理框架 DeepInfer,本次提供支持 DeepSeek-V4.1-Flash 的离线推理能力。框架支持优化内核、异步调度、确定性采样和结构化输出,可运行于 NVIDIA SM100 GPUs 与华为昇腾 950 NPUs,采用 Apache License 2.0。
Fizzpoker 推出免登录的浏览器端 No-Limit Texas Hold’em,创建 2–9 人牌桌后分享链接,好友点开即可入座,无需下载或注册账号。游戏为锦标赛式冻结赛,盲注每 3、5、10 或 15 分钟上涨,筹码无现金价值。免费账号可解锁最多 9 人牌桌、更多机器人对手及赛后基于 GTO 模型的 Fizz Score 复盘。
Cursor 正式推出 Agent SDK,支持以代码文件夹定义智能体、通过评估测试,并部署到 Cursor 或自有基础设施。
推荐理由:Cursor Agent SDK 将提示词、工具和技能组织为代码项目,通过本地评估与真实 PR 回放测试智能体行为。
Microsoft 周一推出 Guardian Agents 等企业安全功能,将企业部署的 AI 智能体视为潜在内部威胁。Guardian Agents 属于 Project Perception,用于监控企业使用的智能体;Microsoft 安全业务负责人称,前沿模型因行为不可预测而不能被信任,企业应将智能体供应与监管权限分离。
Amazon Web Services 周一发布 TorchNeuron,让使用 PyTorch 编写的 AI 应用更容易迁移到其 Trainium 芯片。Amazon 称只需修改一行配置,无需重写代码,并以 Deepgram 为例称其在生产级准确率下每美元可处理的音频增加了 70%。Amazon 还计划向 PyTorch 上游贡献代码,减少框架与特定芯片的绑定,让开发者拥有更多硬件选择。
Replika 创始人 Eugenia Kuyda 周一向所有用户推出 Wabi,将 12 年前的生活助理构想发展为支持多人共享、多线程任务的个人 AI 助手。Wabi 2.0 接入邮箱后会自动创建线程和应用,用户也能请求定制应用,并在共享聊天中按需开放个人信息,访问权限限定于具体聊天。Wabi 目前免费,商业模式尚未确定,公司正在洽谈进一步融资。
一位开发者在 Hacker News 发布自建任务系统,用户逐行输入待办事项,系统随后挑选三项并说明理由。输入内容在未注册时仅留在本地,只有用于排序时才会离开;语音数据始终不离开浏览器。
KiviDB 是用 Rust 编写的开源多线程内存数据库,兼容 Redis 协议并内置全文与向量搜索。项目公布的 32 核测试中,KiviDB 1.1.0 的流水线 GET 吞吐为 21.2M ops/s,约为 Redis 8 的 9×、Dragonfly 的 2.3×,测试结果依赖环境与工作负载。
Google Research 的 Harness² 是即插即用的智能体框架,在保持模型权重固定的情况下,通过任务级与跨任务递归优化提示词、工具、记忆等组件。
AWS 宣布 TorchNeuron 原生 PyTorch 后端,支持 Trainium2 和 Trainium3,将于 10 月 20 日以 Apache 2.0 开源并开放公共 Beta。
Superlite 是作者开发的 Claude Code 插件,通过并行任务、分层智能体和代码钩子,将规格交给智能体后自动完成开发、测试与审查。当前版本单次基准用时 16.1 min,通过 177 / 177 项隐藏测试,相比 superpowers 原版此前 3 次运行的平均 33.6 min 减少 52% 时间;这一比较来自同机测试,并非多次重复的新版本结果。
开发者构建并开源 KillSwitch,通过对抗性语言设计测试 LLM 和编码智能体能否理解、编写未见过的代码。它是一种基于栈的解释型语言,利用字符计数、规范中的隐藏谎言及触发安全护栏的语句增加难度,示例见 https://killswitch-lang.org 。
Simon Willison 发布 llm-echo 0.5,这个调试插件提供一个不涉及 LLM 的“模型”,只把收到的提示词原样回显。新版本更新了模拟 token 用量统计,将工具调用、系统提示词和推理 token 纳入计算。示例中 `llm -m echo 'hi there' -o thinking 1 --usage` 显示 2 input、24 output。
llm-tools-datasette 发布 0.1.1 版本,修复了 LLM 0.33 改用 httpx2 后插件因未直接依赖 httpx 而出现的兼容问题。该插件此前依赖 httpx 但未显式声明,此次升级后已恢复正常。
WhatsApp MCP 可部署在用户自己的 Cloudflare 账户,让 Claude Code、Claude Desktop 等 MCP 客户端读取和搜索 WhatsApp 聊天,但不能发送消息。
Sphinx 是面向智能体辅助开发的免费开源 Git 钩子,在受保护分支推送前根据代码差异提问,答对后才继续推送。独立审查模型不读取编程聊天记录,回答不会传给编程智能体,也不会打开 .env 文件和密钥;可用 sphinx yolo 跳过检查,每次跳过都会记录。
Simon Willison 发布 web-edit 0.1a2,为其用于通过 Tailscale 跨机器浏览和编辑文件夹内文件的微型 Web 应用新增文本与图片数据的"复制到剪贴板"选项。该功能源于他用手机在笔记本上运行 pelican 提示词、并希望便捷地将日志复制到 Gist 的需求。
Things to Do API 提供面向智能体应用的本地活动数据接口,覆盖演出、讲座、快闪、市集和节庆等,支持 REST 与 MCP 接入,并可用自然语言查询。免费额度为每月 1,000 次调用、每分钟 60 次,无 key 时每天可试 50 次查询;按量计费 $5/1,000 次,超过 10 万次后 $3/1,000 次,超过 100 万次后 $2/1,000 次。
SGLang 推出 Low-Latency Mode,通过插件框架将专用 kernel 引入 SGLang,在 NVIDIA 和 AMD GPU 上显著降低推理延迟。
DeepSeek 开放自研搜索 API,底层使用为其网页端与 API 端提供搜索支持的 DeepSeek 搜索引擎。该引擎索引全球千亿级网页,支持多语言搜索,每天处理来自全球各地的数亿次搜索请求。DeepSeek 称其通过识别机制过滤 SEO 作弊、GEO 操纵和低质 AIGC,使用方式可参考网页搜索与抓取指南。
推荐理由:DeepSeek 开放自研搜索 API,其底层引擎已为网页端与 API 端提供搜索支持并处理每天数亿次请求。
ChatGPT 的 Chrome 扩展现可读取已打开的标签页并执行操作,更新适用于所有 ChatGPT 套餐。用户可通过 @chrome 指定标签页,Chat 模式支持跨标签页提取数据,Work 模式通过 Computer Use 发送消息、填写表单、下载文件或分组标签页。升级后的侧栏提供完整聊天历史,OpenAI 的示例包括跨标签页比较商品、概括文章和比对不同卖家的价格页面。
推荐理由:ChatGPT 将跨标签页读取与浏览器操作接入 Chrome 扩展,让网页比较、表单填写和文件下载能在同一侧栏中完成。
PostgreSQL Global Development Group 将 PostgreSQL 19 的发布时间推迟至预计 11 月 19 日左右,并撤回 8–10 项重要功能。
推荐理由:PostgreSQL 团队借助 LLM 审查更快发现边界缺陷,每项修复的固定处理开销挤压了发布前的时间预算。
NVIDIA RTX Spark 笔记本今日全球开售,最高提供 128GB 统一内存和 1 petaflop FP4 AI 性能,起价 $2,599。产品结合 Blackwell RTX GPU、Grace CPU 与 CUDA,支持本地运行大语言模型和 AI 智能体,并提供智能体权限控制及家庭网络推理服务。
推荐理由:NVIDIA RTX Spark 将本地模型运行、编码和测试整合到 Windows 笔记本中,让开发流程减少对云端测试环境的依赖。