Together telah memperbarui platform GPU Cluster-nya dengan fitur keandalan dan kontrol operasional baru yang dirancang untuk beban kerja pelatihan dan inferensi skala besar. Perubahan termasuk tumpukan Slurm-on-Kubernetes yang dibangun ulang, mekanisme perbaikan node otomatis, dan alat manajemen akses yang ditingkatkan.

  • Pemeriksaan kesehatan pasif secara terus-menerus memantau beban kerja nyata untuk mendeteksi kegagalan perangkat keras seperti penurunan GPU dan throttling termal dengan overhead hampir nol.
  • Perbaikan node otomatis menghasilkan tindakan remediasi yang direkomendasikan untuk masalah yang terdeteksi, termasuk reboot, reprovisioning, failover, atau penghapusan dari pool.
  • Slurm-on-K8s 2.0 menyediakan daemon pekerja self-healing, akuntansi job yang tahan lama pada penyimpanan berbasis PVC, dan pelacakan status GPU yang akurat setelah penjadwalan ulang.
  • Dukungan OIDC eksternal memungkinkan kluster untuk melakukan autentikasi terhadap penyedia identitas seperti Google, Okta, dan Microsoft Entra ID untuk Kubernetes RBAC.
  • Skrip startup memungkinkan kustomisasi node pekerja, node login, dan kontrolir saat boot, awal job, atau akhir event job.

Pembaruan ini bertujuan mengurangi friksi operasional dengan mengotomatisasi pemulihan kegagalan, meningkatkan visibilitas kluster, dan menyediakan kontrol akses granular untuk tim yang berkembang.