연구자들은 소프트웨어 파이프라이닝(SWP)과 와프 전문화(WS)를 기성 제약 솔버로 해결할 수 있는 결합 최적화 문제로 공식화하는 시스템인 Twill을 소개했습니다. 이 접근 방식은 GPU 아키텍처에서 반복 프로그램에 대한 최적의 실행 일정을 자동으로 유도합니다.

  • Twill은 휴리스틱이 없으며 광범위한 클래스의 반복 프로그램에 대해 최적의 일정을 생성함이 보장됩니다.
  • 이 시스템은 Flash Attention을 위해 전문가가 수동으로 개발한 SWP 및 WS 일정의 최적성을 재발견하고 증명할 수 있습니다.
  • 검증은 NVIDIA Hopper 및 Blackwell GPU 아키텍처 모두에서 수행되었습니다.

취약한 컴파일 휴리스틱과 인간의 직관을 포괄적 최적화로 대체함으로써 Twill은 복잡한 현대 GPU에서 고정 기능 유닛과 범용 코어의 최대 활용을 보장합니다.