Together ने अपने GPU Cluster प्लेटफ़ॉर्म को नई विश्वसनीयता और संचालन नियंत्रण सुविधाओं के साथ अपडेट किया है, जो बड़े पैमाने पर प्रशिक्षण और इनफरेंस लोड के लिए डिज़ाइन किए गए हैं। परिवर्तनों में एक पुनर्निर्मित Slurm-on-Kubernetes स्टैक, स्वचालित नोड मरम्मत तंत्र और बढ़ाए गए एक्सेस प्रबंधन उपकरण शामिल हैं।
- निष्क्रिय स्वास्थ्य जाँचें वास्तविक लोड को लगातार मॉनिटर करती हैं ताकि GPU ड्रॉप और थर्मल थ्रॉटलिंग जैसे हार्डवेयर खराबियों को लगभग शून्य ओवरहेड के साथ पता लगाया जा सके।
- स्वचालित नोड मरम्मत पहचानी गई समस्याओं के लिए अनुशंसित प्रतिक्रिया कार्रवाइयाँ उत्पन्न करती है, जिसमें रीबूट, पुनः प्रोविज़निंग, फेलओवर या पूल से हटाना शामिल है।
- Slurm-on-K8s 2.0 स्वयं को ठीक करने वाले वर्कर डेमॉन्स, PVC-आधारित स्टोरेज पर टिकाऊ जॉब अकाउंटिंग और रीशेड्यूल के बाद GPU स्थिति की सटीक ट्रैकिंग प्रदान करता है।
- बाहरी OIDC समर्थन क्लस्टरों को Google, Okta और Microsoft Entra ID जैसे पहचान प्रदाताओं के खिलाफ Kubernetes RBAC के लिए प्रमाणीकरण करने देता है।
- स्टार्टअप स्क्रिप्ट्स बूट, जॉब शुरू या जॉब समाप्ति ईवेंट पर वर्कर नोड्स, लॉगिन नोड्स और कंट्रोलर्स को अनुकूलित करने की सुविधा देती हैं।
ये अपडेट विफलता पुनर्प्राप्ति को स्वचालित करके, क्लस्टर दृश्यता में सुधार करके और बढ़ती टीमों के लिए बारीक एक्सेस नियंत्रण प्रदान करके संचालनात्मक घर्षण को कम करने का लक्ष्य रखते हैं।