Аллокатор GPU, учитывающий ограничения, был протестирован на производительность против планировщика FIFO в семи сценариях, показав увеличение утилизации GPU до 33 процентных пунктов и рост приоритетно-взвешенного вывода до 105% на идентичном оборудовании. Система рассматривает спрос на вывод в реальном времени как колеблющуюся кривую, а не как статическое резервирование, позволяя пакетным задачам заполнять мощность во время спадов, соблюдая строгие ограничения, такие как непрерывные блоки GPU и невозможность прерывания.

  • Утилизация выросла с диапазона 52–85% до 72–88%, при этом приоритетно-взвешенная ценность увеличилась в среднем на 52% в условиях конкуренции за ресурсы.
  • В рабочей нагрузке, ориентированной на обучение, на 8 GPU утилизация подскочила с 53.6% до 87.0%, более чем удвоив значение вывода.
  • Аллокатор работает за 1–2 миллисекунды для стандартных сценариев и за 15 миллисекунд для крупномасштабных тестов с 64 GPU и 30 задачами.
  • Даже при равномерных приоритетах система улучшила утилизацию с 76.8% до 87.5%, демонстрируя, что планирование на горизонте вносит вклад в рост показателей помимо простого взвешивания по приоритету.

Оптимизируя решения о выделении ресурсов на всём горизонте планирования, а не полагаясь на порядок поступления запросов, аллокатор предотвращает простой мощности из-за статических резервирований и обеспечивает эффективное планирование задач с высоким приоритетом.