Together는 대규모 학습 및 추론 워크로드를 위해 설계된 새로운 신뢰성 및 운영 제어 기능을 갖춘 GPU Cluster 플랫폼을 업데이트했습니다. 변경 사항에는 재구축된 Slurm-on-Kubernetes 스택, 자동 노드 복구 메커니즘 및 강화된 액세스 관리 도구가 포함됩니다.
- 수동 건강 검사는 GPU 드롭 및 서멀 스로틀링과 같은 하드웨어 장애를 거의 오버헤드 없이 지속적으로 모니터링합니다.
- 자동 노드 복구는 감지된 문제에 대한 권장 조치(재부팅, 재프로비저닝,フェ일오버 또는 풀에서 제거 등)를 생성합니다.
- Slurm-on-K8s 2.0은 자체 치유형 워커 데몬, PVC 기반 스토리지에서의 내구성 있는 작업 회계, 및 재스케줄링 후 정확한 GPU 상태 추적을 제공합니다.
- 외부 OIDC 지원을 통해 클러스터는 Google, Okta, Microsoft Entra ID와 같은 신원 제공자에 대해 인증하고 Kubernetes RBAC를 사용할 수 있습니다.
- 시작 스크립트를 통해 부팅 시, 작업 시작 시 또는 작업 종료 시 이벤트에서 워커 노드, 로그인 노드 및 컨트롤러를 사용자 정의할 수 있습니다.
이러한 업데이트는 장애 복구의 자동화, 클러스터 가시성 향상 및 성장하는 팀을 위한 세분화된 액세스 제어를 제공하여 운영 마찰을 줄이는 것을 목표로 합니다.