OpenAI 讲他们怎么用 Python 和 Rust 搭了个存储平台，撑住 ChatGPT 10 亿用户

OpenAI 详解存储平台 Habitat 如何扩展支撑超 10 亿 ChatGPT 用户（上篇）

OpenAI 的在线存储平台 Habitat 现在每秒要处理超过 7000 万个请求，服务着每周超 10 亿的 ChatGPT 用户，管着 500PB 以上的数据。这篇文章是上篇，讲了它怎么从一个简单的 Python 客户端库，被逼成一个分布式服务。团队连续三年面对每年超 10 倍的增长，先是在 Python 的异步框架里抠延迟，解决功能开关的尾部延迟...