把模型搬回自己家之前,先算三本账
Lambda 工程师 Zach Mueller 公开承认,他家里那套 GPU 机架不省钱,电费可能翻倍,回报全在磨练技能。文章用 2026 上半年数据说明开源模型能力已够用,但自建部署的账比直觉复杂。核心要算三本账:钱上,两张 H100 每月得跑约 20 亿 token 才能打平云端 API,利用率一高延迟就涨,交互体验和成本天生打架;数据上,商业合规...
推荐理由:Zach Mueller 作为 Lambda 的工程师,亲手拆了自建 GPU 的省钱幻觉,三本账的框架很实在。扣分是因为这是一篇观点总结,不是一手发布,而且正文停在摘要层面,没把完整的成本拆解细节放出来。