Sebuah alokator GPU yang sadar kendala diuji bandingkan dengan penjadwal FIFO di tujuh skenario, mencapai peningkatan utilisasi GPU hingga 33 poin persentase dan output berbobot prioritas hingga 105% lebih tinggi pada perangkat keras yang identik. Sistem ini memperlakukan permintaan inferensi waktu nyata sebagai kurva berfluktuasi daripada reservasi statis, memungkinkan pekerjaan seperti batch mengisi kapasitas selama titik terendah sambil menghormati kendala ketat seperti blok GPU yang kontigu dan non-preempsi.

  • Utilisasi naik dari rentang 52–85% menjadi 72–88%, dengan nilai berbobot prioritas meningkat rata-rata 52% di seluruh skenario yang bersaing.
  • Dalam beban kerja yang padat pelatihan pada 8 GPU, utilisasi melonjak dari 53,6% menjadi 87,0%, lebih dari menggandakan nilai output.
  • Alokator beroperasi dalam 1–2 milidetik untuk skenario standar dan 15 milidetik untuk pengujian skala besar dengan 64 GPU dan 30 pekerjaan.
  • Bahkan dengan prioritas seragam, sistem meningkatkan utilisasi dari 76,8% menjadi 87,5%, menunjukkan bahwa perencanaan cakrawala memberikan manfaat di luar pemberian bobot prioritas saja.

Dengan mengoptimalkan keputusan alokasi di seluruh cakrawala penjadwalan daripada mengandalkan urutan kedatangan, alokator mencegah kapasitas menganggur yang disebabkan oleh reservasi statis dan memastikan beban kerja prioritas tinggi dijadwalkan secara efisien.