A Together atualizou sua plataforma GPU Cluster com novos recursos de confiabilidade e controle operacional projetados para cargas de trabalho de treinamento e inferência em larga escala. As alterações incluem uma pilha Slurm-on-Kubernetes reconstruída, mecanismos automatizados de reparo de nós e ferramentas aprimoradas de gerenciamento de acesso.
- Verificações de saúde passivas monitoram continuamente as cargas de trabalho reais para detectar falhas de hardware como quedas de GPU e throttling térmico com sobrecarga próxima de zero.
- O reparo automático de nós gera ações de remediação recomendadas para problemas detectados, incluindo reinicialização, reprovisionamento, failover ou remoção do pool.
- Slurm-on-K8s 2.0 fornece daemons de trabalhador auto-curáveis, contabilidade durável de jobs em armazenamento baseado em PVC e rastreamento preciso do estado da GPU após reagendamentos.
- O suporte a OIDC externo permite que os clusters se autentiquem contra provedores de identidade como Google, Okta e Microsoft Entra ID para RBAC do Kubernetes.
- Scripts de inicialização permitem a personalização de nós de trabalho, nós de login e controladores na inicialização, início ou fim de um job.
Essas atualizações visam reduzir a fricção operacional automatizando a recuperação de falhas, melhorando a visibilidade do cluster e fornecendo controle de acesso granular para equipes em crescimento.