Hao AI Lab은 Blackwell B300 아키텍처를 위해 설계된 새로운 FP4 어텐션 커널 세트를 선보였습니다. 이 최적화된 커널은 성능 개선을 제공하며, FlashAttention-4 (FA4)와 비교하여 최대 1.69배의 속도 향상을 달성했습니다.
이번 릴리스는 NVIDIA의 최신 하드웨어에서 실행되는 대규모 언어 모델의 계산 효율성을 향상시키는 데 중점을 두고 있습니다.
Hao AI Lab은 Blackwell B300 아키텍처를 위해 설계된 새로운 FP4 어텐션 커널 세트를 선보였습니다. 이 최적화된 커널은 성능 개선을 제공하며, FlashAttention-4 (FA4)와 비교하여 최대 1.69배의 속도 향상을 달성했습니다.
이번 릴리스는 NVIDIA의 최신 하드웨어에서 실행되는 대규모 언어 모델의 계산 효율성을 향상시키는 데 중점을 두고 있습니다.