AI 爬虫用最蠢的方式狂刷 git.kernel.org,每天 600 万次请求,98% 是废料
Creepy Crawlies
Konstantin Ryabitsev 给了硬数据:git.kernel.org 每天收到 600 万次请求,98% 来自 AI 爬虫。这些爬虫不直接克隆仓库,而是把每个提交渲染成 HTML 再抓取,光 linux.git 的 922 个分支就能生成几十亿个有效网址,抓回来的却是 148 万次提交的重复内容。封 IP、封整个 ASN 都失败了,因为爬...
推荐理由:Kernel.org 维护者首次公开 AI 爬虫冲击的硬数字:14 个 CPU 核 24 小时被浪费在给爬虫渲染提交页面。信息密度高,行业共鸣强。因为是基础设施运维话题而非模型或产品更新,我会稍微打个折,但选题和表达都到位。