跳到正文

#部署/工程

今日 10 条

11月11日星期三

Hacker News 首页

Tinfoil(YC P25)在旧金山招聘应用 AI 安全工程师

Tinfoil 正在旧金山招聘应用 AI 安全工程师,该岗位需作为战略客户的主要技术顾问,把客户的威胁模型与隐私需求转化为基于 Tinfoil 的部署架构。要求 2 年以上软件工程、前向部署工程、安全工程或技术产品经理经验,并具备 Python 或 TypeScript 生产级编程能力及 LLM 智能体、工作流或 LLM 产品的实操经验。

OpenAI News

新加坡航空用 OpenAI 技术提升出行与办公体验

新加坡航空通过 OpenAI API 和模型升级客服聊天机器人 Kris,客户满意度(CSAT)翻倍,客服代表平均处理时长缩短约 10%。基于 OpenAI API 的 Flight Recommender 让用户用自然语言描述行程,过去一年月活用户增长近 3 倍。OpenAI 模型还用于内部 AI 平台 Jarvis 及软件开发流程。

Hacker News 首页

Greg Kurtzer 的 Ginux 转型为用户空间内核

Greg Kurtzer 的 Ginux 已从独立 Rust 内核转为可配置的用户空间内核,作为普通 Linux 进程运行,在受管工作负载与宿主内核之间建立显式、带版本的契约。

Latent Space

OpenAI 在 AI Engineer Code Summit 讲解 Codex 的新工作方式

OpenAI 工程师在 AI Engineer Code Summit 演示了 Codex 的云端任务、语音控制和个人智能体 dots 工作方式。Codex Cloud 版本 2 支持发布一次环境后,在隔离实例中运行多个任务,但本地任务向云端交接仍涉及上下文差异,团队正在改进体验。语音可用于管理任务线程和委派工作,dots 则可提醒遗漏、承接委派,并利用已有上下文推进 PR。

Computing Life · Share · 鸭哥调研

黄仁勋风波如何影响英伟达对华芯片游说与海外算力租赁

黄仁勋风波可能削弱英伟达通过白宫争取对华芯片松绑的能力,这是文章基于公开报道与官方披露提出的核心判断。文章进一步推演,国会推动的出口许可审查和芯片位置核验要求,可能增加中国研发团队在东南亚租用训练集群的合规门槛与成本。文章注明其分析由 AI 完成,涉事人员的情报身份及芯片违规转运指控未经司法证实,各方动机与地缘政治影响属于推演。

推荐理由:文章将黄仁勋风波与国会芯片出口限制联系起来,分析白宫游说通道受限可能如何抬高中国研发团队海外租用算力的合规门槛。

Latent Space

Resend 联合创始人 Zeno Rocha 访谈:如何为 AI 智能体设计开发者工具

Resend 联合创始人兼 CEO Zeno Rocha 在访谈中介绍了面向 AI 智能体的产品设计,涉及服务推荐、定价信息读取和 MCP 工具响应。文中引用的一项研究显示,Claude Code 在可提取的 102 次邮件服务推荐中有 64 次将 Resend 列为首选;另一项更近期的研究中,Postmark 在多数模型中排名居前。

Hacker News 首页

Modelplane 推理工程指南:从平台运维到生产部署

Modelplane 的推理工程指南面向平台工程师,系统讲解模型与 GPU 的配合、生产部署及职业学习路径。指南涵盖权重与 KV cache 显存预算、prefill 与 decode 瓶颈、引擎优化、网关鉴权、可观测性和扩缩容,并强调用真实流量开展并发评测。

The Verge · AI

美国在 AI 竞赛中领先,黄仁勋的涉嫌间谍风波可能危及这一优势

The Verge 分析黄仁勋与一名涉嫌中国间谍的女性发生婚外情的风波,受访专家警告此事可能扰乱 Nvidia 运营并危及美国的 AI 优势。报道援引消息称,与该女性有关联的公司促成了至少 $7 billion 的 Nvidia 芯片对华销售,但没有公开证据表明黄仁勋本人协助向中国输送受限芯片或泄露敏感信息。

Computing Life · Share · 鸭哥调研

为什么付费方式比模型多聪明更能决定 AI 的生产力:Revolut 的自托管案例

Revolut 将约 2000 名工程师的 AI 使用转向固定算力池并取消个人额度限制,企业自报写代码时间减少 60%、整体交付周期减少 70%。团队用 56 张 B200 自托管 GLM-5.1,后来升级至 GLM-5.3,并通过上下文限制、权重压缩和缓存优化,将首字延迟从 14.26 秒降至 1.68 秒。

TechCrunch · AI

Google 推出 TPU 8tx 与 TPU 8i Max 两款专用芯片

Google 发布第八代 TPU 的两款新变体 TPU 8tx 和 TPU 8i Max,分别面向机密推理与大内存负载。TPU 8tx 与 AMD 合作设计,基于 TPU 8t,将安全防护做到硬件层,并配备可在训练同时运行推理的定制推理网络,支持即时蒸馏小模型。TPU 8i Max 则将两颗 TPU 8i 合入单一封装,内存容量、算力与带宽翻倍。

Hacker News 首页

智能家居设备应断网可用:一位开发者十年家庭自动化的规则

开发者 Spencer Kittleson 提出智能家居第一规则:核心设备断网也必须可用,其家中逻辑跑在 Tasmota 固件、MQTT broker 和树莓派上的 Node-RED 上。他因 Google 破坏 API 导致 Nest 集成失效、三星冰箱屏幕报 TLS 证书错误等问题,主张云服务只能作为附加项。他还要求云设备必须提供带日志的 API,否则不安装。

11月10日星期二

Hacker News 首页

Fireworks AI 安全事件可能影响 <1% 的 Notion 工作区

Notion 调查确认,Fireworks AI 安全事件可能影响 <1% 的 Notion 工作区,部分 Notion AI 聊天记录可能暴露。相关记录未标注用户或工作区,也不含工具调用结果,其他工作区数据不受影响;Notion 已断开与 Fireworks 的连接并停用 Insights。

推荐理由:Notion 披露第三方供应商事件涉及的聊天记录虽无用户和工作区标识,文本本身仍可能包含敏感凭据,受影响客户需按暴露数据处理。

Hacker News 首页

ClickHouse 收购 Xata,将数据库分支能力引入 Managed Postgres

ClickHouse 收购 Xata,计划将即时数据库分支、闲置计算缩容至零及智能体服务层整合进 ClickHouse Managed Postgres。Xata 表示,即使数据库包含数 TB 数据,创建独立分支也只需约 3 秒,可供每个拉取请求或智能体运行隔离测试。Xata 客户短期内可照常使用,平台继续接受注册,待功能达到一致后再迁移至 ClickHouse Managed Postgres。

Computing Life · Share · 鸭哥调研

如何用 gh skill 与 APM 管理 Agent 技能依赖和自动升级

Agent 技能依赖维护需要同步锁文件与实际技能文件,文章比较了 gh skill 和 APM + Dependabot 的方案与限制。Dependabot 调用 apm lock 更新账本,不同步已入库的技能文件且跳过安全扫描,对多行依赖配置、MCP 服务和私有源也存在支持限制。

Hacker News 首页

Exact 推出面向 AI 智能体的跨平台 UI 框架

Exact 是新的跨平台 UI 框架,让同一应用在 web、macOS、iOS 和 Linux 上运行,并支持 AI 智能体构建、操作和测试应用。界面用 Contract 描述,数据逻辑用 TypeScript 或 Rust 编写,同一测试文件可跨平台运行,UI 不使用 webview 或 JavaScript bridge。

OpenAI News

OpenAI 建立 Control Room,集中追踪并停止研究基础设施中的模型工作负载

OpenAI 已在研究基础设施部署 Control Room,集中追踪模型工作负载,并在收到停止指令后最多 35 秒内阻止进一步模型输出。系统在推理引擎层按 job_id 检查授权,可联动监控系统停止任务,无需依赖任务代码自行执行停止检查。Control Room 服务故障时会拒绝推理请求,这项故障关闭机制已覆盖所有前沿模型研究工作负载,未来几天将完成其余研究工作负载的部署。

推荐理由:OpenAI 将研究任务的停止机制放在推理层统一执行,降低安全控制对频繁变动的任务代码的依赖并保留其他获授权任务的运行。

Hacker News 首页

Google 推出 TPU 8tx 和 TPU 8i Max,分别面向机密推理与超长上下文

Google 扩展第八代 TPU 产品组合,推出面向安全机密推理的 TPU 8tx 和面向超长上下文的 TPU 8i Max。TPU 8tx 采用与 TPU 8t 相同的芯片,提供硬件级数据与模型权重保护,延迟相比 TPU 8t 最多降低至一半,并支持私有数据微调、知识蒸馏和强化学习。

推荐理由:Google 通过复用现有芯片并调整安全、网络和内存配置推出专用 TPU 系统,将硬件系统适配周期从数年缩短至数月。

claude.dev 开发者博客

Claude 模型选型指南:如何选择 Fable、Opus、Sonnet 或 Haiku

Anthropic 建议多数编码与知识工作从 Claude Opus 5.5 的 medium 思考力度开始,按任务难度选择 Sonnet 5.5、Haiku 5.5 或 Fable 5.2。指南强调按完成任务的成本选型,先提供自动验收手段,再调整思考力度或升级模型,并将易核查的辅助任务交给较小模型。切换模型还需检查提示词缓存、思考块保留和 API 参数兼容性,最终用真实任务比较质量与开支。

推荐理由:Anthropic 将 Claude 选型拆成模型、思考力度和任务完成成本,提出用自动验收与失败重跑控制开支的方法。

MIT Technology Review · AI

数据中心遭遇的反对声,可能更多源于电力问题

James O'Donnell 走访弗吉尼亚州数据中心聚集区后判断,电力需求及其对社区的影响是数据中心遭遇反对的重要原因。当地抗议已推动州政府要求数据中心全额承担新增输电线路成本;其他地区的大型 AI 数据中心则常依靠现场天然气发电,同样带来空气污染和社区参与权问题。

Computing Life · Share · 鸭哥调研

Agent Harness 技巧评测解读:哪些框架设计能提升表现并降低成本

Surge AI 与 FireFlash 的对照实验显示,编程智能体可通过提高单模型思考深度、设置测试与目标核对关卡、改造终端管道提升表现。Surge AI 实验中,Compound Engineering 将成本提高至基线的 8 倍,成绩仅从 31.1 升至 32.9;Claude Opus 5.5 调高思考设置后达到 42.4,成本为基线的 3.5 倍。

推荐理由:Surge AI 与 FireFlash 团队拆解智能体框架技巧的成本收益,实验对比了多代理协作、单模型深度思考与终端管道改造。

11月9日星期一

TechCrunch · AI

Automattic 推出 Spacefast,为 AI 编码网站和应用提供部署服务

WordPress.com 母公司 Automattic 推出 Spacefast,为通过 AI 编码创建的网站和应用提供部署基础设施。服务涵盖数据库、认证、文件上传、邮件和分析,用户可连接 ChatGPT、Claude、Cursor 等智能体或聊天机器人,也可接入 Git 仓库。产品在 9 月试上线收集反馈,已有用户和组织将其用于内部原型、幻灯片及优惠活动网站。

MIT Technology Review · AI

特种化学品公司 Lubrizol 如何用 AI 加速研发创新

特种化学品制造商 Lubrizol 正构建连接业务流程、现代数据平台与云基础设施的数字底座,支持研发团队更快验证想法。其 IT 副总裁 Girish Rao 强调 AI 不替代科学判断,而是给科学家更好的工具,并通过科学家、数据科学家与 IT 组成的“fusion teams”从小型试点建立信任。数字建模可帮助评估更多配方、探索淀粉和玉米基等替代材料,并权衡产品全生命周期的取舍。

The Decoder

Google一年内交付四款TPU系统,扩大与Nvidia的竞争

Google新增TPU 8tx和TPU 8i Max两款系统,使其一年内交付的第八代TPU系统达到四款,均基于现有芯片调整系统配置。TPU 8tx面向机密计算,Google称数据和模型权重在处理期间仍受到保护与隔离;TPU 8i Max将两颗TPU 8i芯片放在同一封装内,在相同机架规格下将算力、内存容量和内存带宽翻倍。

Hacker News 首页

Flide 发布:Jev 类决策模型推理最高提速 9.5 倍

Flide 是面向 Jev 风格决策模型的推理基础设施,借助精确状态分叉,单请求响应速度最高达 vLLM 和 SGLang 的 9.5 倍,且答案与模型单独作答完全一致。它通过 /v1/systemone API 提供服务,已支持 Qwen3.5、Gemma 4 及 OneJev、pplx-decider 等决策模型,采用 Apache-2.0 许可。

Hacker News 首页

Apple 据报道将部分工程师每日 AI 预算降至 $200

Apple 据报道将部分工程师的每日 AI 支出上限从 $300 下调至 $200。Stork AI Daily 将这一调整解读为企业规模使用生成式 AI 的成本压力,并主张通过缓存、小模型路由和提示词优化减少支出;预算调整的信息来源标为 Bloomberg。

Computing Life · Share · 鸭哥调研

Kimi 与智谱对齐 Claude 托管智能体接口,协议竞争提前结束了吗?

Kimi Hosted Agents 与智谱 Z Managed Agents 对齐 Claude Managed Agents 的四元控制面,文章据此分析托管智能体的协议收敛与技术选型。

推荐理由:Kimi 与智谱沿用 Claude 的四元托管接口,将角色、环境、会话和事件分离,为长程任务提供跨厂商复用的客户端抽象。

Hacker News 首页

对 GPUI 的批评:状态模型是复杂桌面应用的死路

一篇技术批评文章认为,GPUI 和 egui 的状态模型不适合复杂桌面应用。作者实测 GPUI 在 3000 行列表、每行缓存视图时改一个标签需 8.4 ms,写成普通元素则需 92 ms,成本随树规模增长而非变更规模。作者称 GPUI 的 notify 只能定位到实体、无法感知具体字段变化,精度提升需把标签拆成独立 view,反而抵消其 API 简洁性。

Latent Space

斯坦福如何教授 AI 原生工程:Mihail Eric 详解课程与 Monaco 实践

Mihail Eric 在访谈中介绍斯坦福 CS146S 如何培养 AI 原生软件工程师,并结合 Monaco 团队实践讨论课程设计。课程为期 10 周,覆盖编码智能体内部机制、上下文工程、技能、代码审查与安全,并加入由开源维护者审查学生补丁的项目贡献作业。Monaco 评估代码审查产品后采用 Devin,同时根据自身云环境自建智能体工作空间,让后台智能体运行产品、复现故障并测试补丁。

推荐理由:Mihail Eric 将开源贡献纳入斯坦福课程,让维护者审查学生补丁,以真实项目中的需求讨论和代码反馈训练软件设计能力。

Computing Life · Share · 鸭哥调研

Anthropic FlashProve 解读:为何能查中转站换模型,却难以监管官方降级

Anthropic 开源的可证明推理原型 FlashProve 可用于事后核验模型计算,本文分析了它识别中转站换模型与监管官方服务降级的边界。材料称,其基于 Llama 4 Maverick 生成约 19 MB 的证明文件,用户在 24 核处理器上可用 17 秒验证,但生成证明的算力成本为 vLLM 普通推理的 70 到 95 倍。

11月8日星期日

Hacker News 首页

Maple 推出 MoE 剪枝工具,将 Gemma 4 26B-A4B 压缩至 4.75 GB

Maple 发布领域专用 MoE 剪枝流水线及 Gemma 4 26B-A4B 压缩模型,将模型从 9.92 GB 缩至 4.75 GB。项目通过前向激活分析每层移除 80 个专家、保留 48 个专家,报告在 RTX 4050 6GB 笔记本 GPU 上实现全部 30 层驻留显存,生成速度由 6.9 提升至 45.4 Tokens/Sec。

TechCrunch · AI

中期选举后,Elon Musk与数据中心面临哪些阻力

本周中期选举中,民主党获胜、多地数据中心限制措施通过,TechCrunch播客分析了Elon Musk及数据中心建设面临的政治阻力。讨论指出,得克萨斯州当选州长Gina Hinojosa承诺限制数据中心,OpenAI则发布compute campus政策蓝图,计划不再要求签署NDA并公开项目规划。嘉宾认为,地方监管压力与投资者对算力支出的疑虑,可能共同增加数据中心扩建的难度。