제약 조건 인식 GPU 할당기가 7가지 시나리오에서 FIFO 스케줄러와 벤치마킹되었으며, 동일한 하드웨어에서 GPU 활용도를 최대 33%p 높이고 우선순위 가중 출력을 최대 105% 개선했습니다. 이 시스템은 실시간 추론 수요를 정적 예약이 아닌 변동 곡선으로 처리하여, 연속 GPU 블록과 비선점성 같은 엄격한 제약을 준수하면서 저조기 동안 배치 유사 작업을 통해 용량을 채웁니다.

  • 활용도가 52–85% 밴드에서 72–88%로 상승했으며, 우선순위 가중 값은 경쟁 시나리오 전반에 걸쳐 평균 52% 증가했습니다.
  • 8개 GPU에서의 훈련 중심 워크로드에서 활용도는 53.6%에서 87.0%로 뛰었으며, 출력 값이 두 배 이상 증가했습니다.
  • 할당기는 표준 시나리오에서 1–2밀리초, 64개 GPU와 30개 작업의 대규모 테스트에서는 15밀리초로 작동합니다.
  • 균일한 우선순위에서도 시스템은 활용도를 76.8%에서 87.5%로 개선했으며, 이는 시간 범위 계획이 우선순위 가중치 alone를 넘어 추가적인 이점을 제공함을 보여줍니다.

도착 순서에 의존하는 대신 전체 스케줄링 시간 범위에 걸쳐 할당 결정을 최적화함으로써, 이 할당기는 정적 예약으로 인한 유휴 용량을 방지하고 높은 우선순위의 워크로드가 효율적으로 스케줄링되도록 보장합니다.