研究人员推出了 Twill,该系统将软件流水线(SWP)和 warp 专用化(WS)表述为一个可由现成约束求解器解决的联合优化问题。该方法自动化了 GPU 架构上迭代程序最优执行调度的推导。

  • Twill 无需启发式方法,并保证为一大类迭代程序生成最优调度。
  • 该系统能够重新发现并证明专家为 Flash Attention 手动开发的 SWP 和 WS 调度的最优性。
  • 验证在 NVIDIA Hopper 和 Blackwell GPU 架构上均已完成。

通过用整体优化取代脆弱的编译启发式方法和人类直觉,Twill 确保了在现代复杂 GPU 中固定功能单元和通用核心的最大利用率。