Together a mis à jour sa plateforme GPU Cluster avec de nouvelles fonctionnalités de fiabilité et de contrôle opérationnel conçues pour les charges de travail d'entraînement et d'inférence à grande échelle. Les modifications incluent une pile Slurm-on-Kubernetes reconstruite, des mécanismes de réparation automatique des nœuds et des outils de gestion des accès améliorés.
- Les vérifications de santé passives surveillent en continu les charges de travail réelles pour détecter les pannes matérielles comme les baisses de GPU et le throttling thermique avec une surcharge quasi nulle.
- La réparation automatique des nœuds génère des actions de remédiation recommandées pour les problèmes détectés, y compris le redémarrage, le reprovisionnement, le basculement ou la suppression du pool.
- Slurm-on-K8s 2.0 fournit des daemons workers auto-guérissants, une comptabilité durable des jobs sur un stockage basé sur PVC et un suivi précis de l'état du GPU après les rescheduling.
- Le support OIDC externe permet aux clusters de s'authentifier auprès de fournisseurs d'identité comme Google, Okta et Microsoft Entra ID pour le RBAC Kubernetes.
- Les scripts de démarrage permettent la personnalisation des nœuds workers, des nœuds de connexion et des contrôleurs lors du boot, du début ou de la fin des jobs.
Ces mises à jour visent à réduire la friction opérationnelle en automatisant la récupération des pannes, en améliorant la visibilité du cluster et en fournissant un contrôle d'accès granulaire pour les équipes en croissance.