OpenAI已将其内部在线存储平台Habitat的容量扩展至每秒处理超过7000万次请求，以支持近40个地理区域中每周超过10亿的ChatGPT用户。该系统现在服务于超过500 PB的数据，从简单的Python客户端库演变为复杂的分布式服务。

  • Habitat管理每秒70M+的请求，并支持每周1B+的用户。
  • 该平台在将近40个地理区域中处理超过500 PB的数据。
  • OpenAI将Habitat从客户端库转变为独立服务，以降低运营复杂性并提高可靠性。
  • 团队通过解决asyncio调度延迟和修复连接池的负载均衡问题来优化Python性能。

这种架构转变使OpenAI能够集中执行安全策略并简化部署，确保其不断增长的产品套件能够快速且可靠地访问数据。