跳到正文

#教程/实践

今日 5 条

10月21日星期三

10月20日星期二

Hacker News 首页

投机解码为什么快?关键在GPU工作类型而非计算量

投机解码之所以快,并非因为每个token的计算量更少——相同序列下总FLOPs反而更高,而是因为它把GPU从逐token解码时的内存受限状态转为计算受限状态,用闲置算力换取速度。在batch size远小于最优token数时,投机解码能利用"免费"算力加速;但batch较大时反而浪费算力,因此vLLM提供--speculative-disable-by-batch-size参数可关闭该功能。

Hacker News 首页

Vite+ 实践评测:统一 AI 智能体开发的工具链与验收流程

Vite+ 在作者为期三周、覆盖四个项目的实践中,通过统一命令减少了 AI 智能体、开发者与 CI 之间的工作流歧义。作者用 vp create 创建项目,以 vp check、vp test 和 vp build 验收,并要求保留一个锁文件、避免重复引入格式化工具。

AI HOT · 行业

Apate.ai 用35万个AI拖住骗子,国内年轻人用AI视频反制卖惨账号

澳大利亚公司 Apate.ai 用35万个AI伪装成容易上当的受害者,已与骗子聊天250万次,累计消耗约17年时间。澳大利亚运营商 TPG 将近59万通可疑来电转给这些AI,澳洲联邦银行公开报告的诈骗损失降低76%。Apate.ai 今年8月获得815万美元种子轮融资;材料还提到国内年轻人用AI视频反制AI卖惨账号,但未展开具体案例。

GitHub Blog · AI & ML

如何在 VS Code 中继续 GitHub Copilot app 会话

GitHub Copilot app 会话可直接在 VS Code 中继续,保留原有任务、计划、对话、代码差异和工作树。教程说明如何通过 Open in VS Code 打开会话,逐行审查改动、继续与 Copilot 对话、手动编辑并运行本地测试。完成后在会话关联的分支上提交并推送,即可更新已有的 pull request,无需复制文件或手动重新关联。

Google 博客 · Gemini

用 Gemini 搭配造型的 4 个技巧

造型师 Sydney Bordonaro 用 Gemini 为分散各地的职业运动员客户预览整套穿搭:上传衣物图片即可合成上身效果图,再通过对话单独替换靴子、外套等单品。她还会把成图发给客户争取确认,并在活动前拍下衣物污渍照片,让 Gemini 给出用现场物品处理的步骤。

AI HOT · 技巧与观点

Numan 如何用 LangGraph 和 LangSmith 构建评测优先的 AI 健康教练 Nu

Numan 用 LangGraph 构建 AI 健康教练 Nu,并通过 LangSmith 评测与追踪对话,将服务限定在生活方式辅导和健康教育范围内。团队按类别评测单轮回复,让测试经过与生产相同的智能体图,并以安全回归测试阻止不合格变更发布;同一套数据集支持其在一天内完成模型供应商迁移。动态模拟患者对话的评测层仍处于原型阶段,其工程师起草的标准须经临床专业人员签核后,才能用于发布门槛或安全声明。

AI HOT · 技巧与观点

Meta 详解 Thin Orchestrator 架构:减少编排层任务以提升 AI 智能体可靠性

Meta 详解 Thin Orchestrator 架构,将路由与可靠性检查留在编排层,把领域推理交给上下文隔离的专门 AI 智能体。其 1,300 行编排器将 20+ 工作流分派给 14 个子智能体,通过工作流模板复用组件,并在运行时按需加载知识。新数据列的配置准备从人工处理的三至四天、此前配置驱动系统的约一天缩短至不到一小时,约三分之二的系统改动无需大量人工修改即可合入。

10月19日星期一

AI HOT · 技巧与观点

Meta 详解 Prometheus 吉瓦级超集群:一期已完成并用于训练 Muse 模型

Meta 的吉瓦级超集群 Prometheus 一期已完成并用于训练 Muse 系列模型,目前拥有数十万 GPU,计划扩展至约 1 million GPUs。Muse Wonder 预训练和 RL 训练的有效吞吐占比分别超过 85% 和 90%,通过一年的工程优化,集群中断次数较峰值减少 99%。

推荐理由:Meta 将机架内备用 GPU、并行感知容错与异步检查点结合,为大规模训练提供减少故障停机和重复计算的工程方法。

AI HOT · 技巧与观点

n8n 教程:在 NVIDIA DGX Spark 上离线运行全套 AI 工作流

n8n 教程展示如何在一台 NVIDIA DGX Spark 上部署七个模型,通过 LiteLLM 的统一接口运行不调用云端 API 的 AI 工作流。实测模型栈占用 108GB 内存,发票字段提取关闭思考后从 12.1s 降至 0.59s,并提供模型版本锁定、服务配置与 n8n 接入步骤。并行生成图像时,单用户聊天速度下降 69%,四用户场景下降 65%,共享 GPU 的任务需要安排调度。

Hacker News 首页

RC2 密钥调度中的 π 表是如何生成的

研究者用 Fisher–Yates 洗牌、以 π 的十进制数字作为随机源,精确复现了 RC2 密钥调度中 256 字节的 PITABLE 及 RFC 2268 中另一张来源未明的表。每次抽取固定读取三位数字,偏差抽取被丢弃,整个洗牌共使用 828 位数字。该方法与 Rivest 的 MD2 使用同一洗牌但每次读取位数不同,这可能是此前未被发现的原因;结果不影响 RC2 的安全性。

AI HOT · 技巧与观点

Browser Use 讲解浏览器智能体的工作原理与使用时机

Browser Use 讲解浏览器智能体如何通过模型、运行框架和浏览器协作,循环观察页面、选择动作、执行并检查结果。任务有可用 API 时优先使用 API,流程可预测时使用脚本,需要灵活判断时使用智能体。智能体存在结果不一致、网站拦截、提示词注入和成本波动等限制,应设置运行上限,并核验任务是否实际完成。

Computing Life · Share · 鸭哥调研

相机、无人机与手机哪些已被破解,AI 在硬件逆向中做了什么

消费设备的解锁涉及官方开放、替代固件、隐藏参数、临时内存补丁和持久扩展五类机制,不能统称为攻破底层安全锁。适马 fp 的 fpSup 属于运行内存补丁,重启即失效;大疆 Mavic 4 Pro 的公开信号增强工具修改遥控器侧参数,未改飞机固件。

10月18日星期日

Hacker News 首页

Brain Sandwich 方法:用人工理解和审查夹住 AI 编码

工程师 Emily 使用 Brain Sandwich 方法协作编码,流程是先自己理解问题,再交给 AI 执行,最后自己审查结果。启动 AI 智能体前先阅读并形成大致方向,以免被带向错误或无须解决的问题。提交他人审查前,应阅读 diff、判断复杂度是否合理并完善 PR 描述;如果无法解释改了什么以及为什么改,就还没准备好交给别人审查。

Computing Life · Share · 鸭哥调研

大模型 API 的 ZDR 承诺解读:提示词可能在哪些环节被保留

大模型 API 的 ZDR 承诺有适用范围,文章梳理了应用状态、反滥用监控、缓存及法律保全可能保留数据的路径。文章结合 OpenAI、Anthropic 的政策说明,区分不用于训练与零数据保留,并强调部分端点和高级功能可能不受 ZDR 覆盖。工程应对包括检查调用链与第三方处理者、在数据出网前脱敏,以及为供应商切换或本地模型部署保留退路。

Hacker News 首页

AI 能写代码,谁来验证?Mihai 详解自动化软件验证流程

Mihai 提出将 AI 代码审查、自动化测试、安全扫描与人工复核结合,验证 AI 编码智能体生成的代码。文章比较 RoboRev、Claude Code Review、Codex、GitHub Copilot 和 Cursor Bugbot 的审查流程,并给出按提交、PR、部署及生产阶段分配检查的 GitHub Actions 示例,明确示例不能直接作为完整 CI 配置使用。

10月17日星期六

Hacker News 首页

Neuralwatt 解读智能体运行框架如何影响能耗与 token 效率

Neuralwatt 分析云端流量与实验请求发现,智能体运行框架修改既有提示词会破坏缓存,增加重复计算与能耗。相同模型、相近输入输出长度下,缓存基本未命中的请求能耗约为缓存命中请求的2倍,GLM-5.3约为2.5倍;上下文超过128k tokens时,一次大范围重读的预填充计算量约相当于600次普通轮次。

推荐理由:Neuralwatt通过逐条请求分析定位缓存失效原因,将稳定提示词前缀、追加状态变更归纳为减少智能体重复计算的方法。

10月16日星期五

claude.dev 开发者博客

Claude Code 团队如何进行代码审查

Claude Code 团队将大部分代码阅读交给自动审查,按风险配置人工审批,并通过分阶段发布和快速回滚控制错误。6 月至 9 月,其合并 PR 数量增长超过一倍,需要回滚的比例下降超过 40%;低风险变更可在自动检查通过后无需人工审批,中高风险变更分别需要 1 人和 2 人审批。团队将历史事故纳入每日评测,并在审查达到 3 轮后要求重新考虑方案,以减少智能体反复审查和修改。

推荐理由:Claude Code 团队将自动审查、风险分级与快速回滚串成流程,把人工审批留给高风险变更并用事故样本持续改进审查。

OpenAI News

Localiza 如何围绕生成式 AI 重组工作

巴西出行平台 Localiza 将生成式 AI 视为新的计算界面而非单纯生产力工具,围绕三大支柱重组业务:规模化实验、自然语言客户入口和 AI 原生产品。2026 年 3 月,它成为巴西首个、也是拉美首批将应用直接集成进 ChatGPT 的出行平台,用户可在对话中浏览租车、订阅和二手车选项。

AI HOT · 技巧与观点

Meta 如何用 AI 原生工程方式开发 Forum 应用

Meta 用 AI 智能体参与 Forum 的规划、实现、测试和验证,小团队在 8 周内实现了与 Facebook Groups 核心功能的对齐。团队通过可读取的应用状态、自动化验证和构建隔离支持智能体执行任务,部分阶段仍需工程师参与迭代,所有上线结果都由工程师签字确认。

推荐理由:Meta 将自动化测试、界面检查和验证记录接入智能体开发流程,让工程师依据可核查的结果审核代码并保留上线签字责任。

10月15日星期四

AI HOT · 技巧与观点

OpenAI 工程师分享用 GPT-6 系列维护代码库的实践与提示词方法

OpenAI Core Experimentation 团队使用 GPT-6 系列与 Codex 清理代码和过期实验,合并超过 1,400 个维护 PR,删除超过 800k 行代码。

推荐理由:OpenAI 工程团队让 Codex 从小范围维护任务起步,以运行数据支持清理提案,并把人工审查反馈纳入下一轮提示词。

Hacker News 首页

确诊癌症后需要知道的事——2026 版

GitLab 联合创始人 Sid 创办的 Sijbrandij Foundation 发布《确诊癌症后需要知道的事》2026 版,作者以 2026 年 5 月确诊口腔鳞状细胞癌的亲身经历给出建议。文中提到 AI 模型曾一度淡化病情、倾向判断"你没有癌症",并建议患者主动要求全面基因检测、尽早寻求第二诊疗意见、参考 NCCN 指南。

10月14日星期三

Simon Willison

Anthropic 如何重新设计源码版本控制系统 Scion

Anthropic 自建源码版本控制系统 Scion 替代 Git,由7人团队在5个月内完成迁移,以应对代码变更量的快速增长。每日合并的代码变更从2026年5月约2,500次增至9月超过30,000次,CI 每天约执行2,500万次代码检出,按朴素方式获取将产生超过600 PB的Git流量。

Google DeepMind

Google DeepMind 如何安全、负责任地开发 Gemini 4 Argon

Google DeepMind 为 Gemini 4 Argon 构建了滥用防护、实时失准监控和提示词注入防御,并开始扩大模型开放范围。防护结合输入筛查、内部激活探针与持续监控,模型在编码基准中的走捷径或作弊尝试降至 2%,在 Gray Swan 的 IPI 基准中经过 15 次自适应攻击尝试后的攻击成功率为 0.7%。

推荐理由:Google DeepMind 将实时行为监控与不惩罚思维链的训练原则结合,使智能体的违规尝试保持可监测性。

Hacker News 首页

XBOW 如何在六天内构建 Chrome 完整漏洞利用链

XBOW 在六天内构建了 Chrome 完整漏洞利用链,将普通标签页中的 JavaScript 执行升级为渲染器沙箱外的代码执行,获得 Google 的 $250,000 奖励。

推荐理由:XBOW将漏洞搜索与利用开发拆成并行任务,并为各阶段设置清晰接口和备用路径,使重复漏洞出现时能替换组件而不必重建整条利用链。

Google 博客 · Gemini

Google 解读 Gemini 4 Argon 的安全防护与负责任开发

Google 介绍 Gemini 4 Argon 在滥用防范、实时失配监控和提示词注入抵抗方面的安全措施,并于今天开始广泛推出该模型。防护包含输入筛查、内部激活探针和持续监控,模型在 Gray Swan 的 IPI 基准中经 15 次自适应攻击尝试后的攻击成功率为 0.7%。

推荐理由:Google 将实时监控与不惩罚思维链结合,训练中误施思维链惩罚后静默作弊比例上升的案例提供了监控设计的教训。

GitHub Blog · AI & ML

GitHub 解读秘密凭据检测模型:发现更多真实凭据,减少误报

GitHub 详解秘密凭据扫描的两阶段流程,用正则生成候选,再由微调的 ModernBERT 结合上下文区分真实凭据与误报。相比此前的 LLM 流程,离线评估的精确率提高 13%、召回率提高 19%,客户 A/B 实验中按仓库所有者加权的告警接受率提高 11.5%。推送后扫描执行时间中位数降低 86%,服务成本降低超过 98%,效率提升也使通用秘密凭据检测能够扩展到推送保护。

推荐理由:GitHub 用正则筛选候选凭据,再让小型分类器结合上下文排除误报,将确定性扫描与机器学习分工用于边界明确的检测任务。

Computing Life · Share · 鸭哥调研

如何把 ChatGPT 订阅接进开发工具:三条接入路径与限制

ChatGPT 订阅接入外部开发工具有官方 API key、Sign in with ChatGPT 和复用 Codex 客户端身份三条路径,文章比较了各自的计费与使用限制。

推荐理由:文章比较 ChatGPT 订阅授权、API key 与复用 Codex 身份三条接入路径,区分了计费方式、功能限制和协议保障。

10月13日星期二

Computing Life · Share · 鸭哥调研

Anthropic 成本指南解读:该调 effort 还是换模型

Anthropic 成本指南建议按每个成功任务的成本比较模型,并优先测试调整 effort,再衡量多模型分层是否更划算。文中指出,会话中切换模型可能破坏提示词缓存,调整 effort 则不会;SWE-bench Pro 测试中,先用 low、失败后用 high 重跑,准确率为 97.0%,每题成本为 0.17 美元,全量 high 则为 95.3% 和 0.29 美元。

推荐理由:Anthropic 指南将单模型低 effort 的每任务成本设为分层方案的比较基线,让调度架构的成本收益有了具体衡量标准。

Hacker News 首页

Instant Software Factory 用 Claude Code 定时智能体持续维护软件项目

Instant Software Factory 提供通过 Claude Code cloud routines 配置软件工厂的提示词,以定时智能体持续调查、实现和审查项目改进。

推荐理由:Instant Software Factory 用定时智能体分担持续维护,并以独立审查、人工批准和停机测试约束无人值守变更。

AI HOT · 技巧与观点

Vapi 自研代码审查机器人如何将 PR 合并时间缩短一半

Vapi 自研的 Pedantic Review Bot 已审查工程师提交的每个 PR,平均合并时间从超过 130 小时降至 65 小时。机器人在报告问题前可追踪调用、运行测试或编写复现,分析任务移除 Git 凭据,由独立任务校验结果并发布评论,不能批准或推送代码。

推荐理由:Vapi 将代码审查智能体的分析与评论发布任务分离,并要求运行测试或复现后再报告问题,为自建审查机器人提供权限隔离方法。

10月12日星期一

AI HOT · 技巧与观点

如何只用自己拥有的仓库文件约束编码智能体

编码智能体的仓库约束可拆成指令、路径规则、能力配置和检查四类文件,通过同一工单逐项加入并复测来辨别各自作用。CLAUDE.md 与 .claude/rules/ 提供指导,能力配置限制可用工具,.claude/hooks/ 则可拒绝写入,并与 CI 的 make gate 共用检查逻辑。

推荐理由:作者通过同一工单逐项加入仓库约束并复测,将指令、规则、能力与检查分开设计,使每项约束的作用能对应到具体检查结果。

10月11日星期日

Hacker News 首页

消耗 500B tokens 后,AI 智能体如何反编译一款第一人称射击游戏

项目团队历时 3 个月,用 AI 智能体重建一款第一人称射击游戏的 C++ 源码,已覆盖 99% 的函数,其中 83% 达到字节精确匹配。早期代码虽可运行却存在语义错误,团队随后采用原版编译器和字节匹配校验,并每小时刷新指令,约束智能体偏离任务及修改验证脚本的行为。作者估计实际消耗为 600-700 billion tokens,认为项目已完成,代码将保持私有。

推荐理由:项目团队用字节匹配校验约束反编译智能体,将正确性转化为机器可检查的验收条件,减少审查智能体被代码注释中的辩解误导。

10月10日星期六

Hacker News 首页

软件工程师用 AI 检索历史档案,找到被遗忘的陨石、犀牛与火山喷发记录

一名软件工程师用 AI 检索数百万页历史档案,找到一份陨石报告、3 只犀牛的运输记录及3 起火山喷发候选记录。流程结合语义检索、Jev 初筛、Claude Haiku 精读和 Claude Code 核查原始扫描,并用已知历史事件测试检索能力。主要发现已对照原始页面及可访问的目录,但尚未经相关专家审查;作者正将调查工作流作为 Antiquity 工具包开源。

推荐理由:软件工程师将语义检索、低成本模型筛选与原始扫描核查串联,并用已知事件测试检索流程,为海量档案调查提供可迁移的方法。