OpenAI telah meningkatkan platform penyimpanan online internalnya, Habitat, untuk menangani lebih dari 70 juta permintaan per detik bagi lebih dari satu miliar pengguna ChatGPT mingguan di hampir 40 wilayah geografis. Sistem ini kini melayani lebih dari 500 petabyte data, berevolusi dari pustaka sisi klien Python sederhana menjadi layanan terdistribusi yang kompleks.
- Habitat mengelola lebih dari 70 juta permintaan per detik dan mendukung lebih dari 1 miliar orang setiap minggu.
- Platform ini menangani lebih dari 500 PB data di hampir 40 wilayah geografis.
- OpenAI mengubah Habitat dari pustaka sisi klien menjadi layanan mandiri untuk mengurangi kompleksitas operasional dan meningkatkan keandalan.
- Tim mengoptimalkan kinerja Python dengan mengatasi penundaan penjadwalan asyncio dan memperbaiki masalah penyeimbangan beban dengan pengelompokan koneksi.
Perubahan arsitektur ini memungkinkan OpenAI memberlakukan kebijakan keamanan secara terpusat dan menyederhanakan penyebaran, memastikan akses data yang cepat dan andal untuk rangkaian produknya yang terus berkembang.