OpenAI a mis à l'échelle sa plateforme de stockage en ligne interne, Habitat, pour gérer plus de 70 millions de requêtes par seconde pour plus d'un milliard d'utilisateurs hebdomadaires de ChatGPT dans près de 40 régions géographiques. Le système sert désormais plus de 500 pétaoctets de données, évoluant d'une simple bibliothèque cliente Python en un service distribué complexe.
- Habitat gère plus de 70M de requêtes par seconde et prend en charge plus de 1B de personnes chaque semaine.
- La plateforme traite plus de 500 PB de données dans presque 40 régions géographiques.
- OpenAI a transformé Habitat d'une bibliothèque côté client en un service autonome pour réduire la complexité opérationnelle et améliorer la fiabilité.
- L'équipe a optimisé les performances de Python en traitant les retards de planification asyncio et en corrigeant les problèmes d'équilibrage de charge avec le regroupement de connexions.
Ce changement d'architecture permet à OpenAI d'imposer centralisée les politiques de sécurité et de rationaliser les déploiements, garantissant un accès rapide et fiable aux données pour sa suite de produits en croissance.