Togetherは、大規模なトレーニングおよび推論ワークロード向けに設計された、新しい信頼性と運用制御機能を備えたGPU Clusterプラットフォームを更新しました。変更点には、再構築されたSlurm-on-Kubernetesスタック、自動化されたノード修復メカニズム、強化されたアクセス管理ツールが含まれます。

  • パッシブヘルスチェックは、ゼロオーバーヘッドに近い状態でGPUのドロップやサーマルスロットリングなどのハードウェア障害を検出するために、実際のワークロードを継続的に監視します。
  • 自動ノード修復は、検出された問題に対する推奨される修復アクション（再起動、再プロビジョニング、フェイルオーバー、またはプールからの削除など）を生成します。
  • Slurm-on-K8s 2.0は、自己修復型ワーカーデーモン、PVCベースストレージ上の堅牢なジョブ会計、およびリスケジュール後の正確なGPU状態追跡を提供します。
  • 外部OIDCサポートにより、クラスターはGoogle、Okta、Microsoft Entra IDなどのアイデンティティプロバイダーに対して認証し、Kubernetes RBACを有効にできます。
  • スタートアップスクリプトにより、ブート時、ジョブ開始時、またはジョブ終了時のイベントでワーカーノード、ログインノード、コントローラーのカスタマイズが可能になります。

これらの更新は、障害回復の自動化、クラスターの可視性の向上、成長するチーム向けの細粒度なアクセス制御を提供することで、運用上の摩擦を軽減することを目指しています。