Исследователи представили Twill — систему, которая формулирует программный пайплайнинг (SWP) и специализацию варпов (WS) как совместную задачу оптимизации, решаемую с помощью стандартных решателей ограничений. Этот подход автоматизирует вывод оптимальных расписаний выполнения для итеративных программ на архитектурах GPU.
- Twill не использует эвристики и гарантированно производит оптимальные расписания для широкого класса итеративных программ.
- Система способна заново обнаруживать и доказывать оптимальность расписаний SWP и WS, разработанных экспертами вручную для Flash Attention.
- Валидация была выполнена на архитектурах GPU NVIDIA Hopper и Blackwell.
Заменяя хрупкие эвристики компиляции и человеческую интуицию целостной оптимизацией, Twill обеспечивает максимальное использование фиксированных функциональных блоков и универсальных ядер в современных сложных GPU.