Hao AI Labは、Blackwell B300アーキテクチャ向けに設計された新しいFP4アテンションカーネルのセットを発表しました。これらの最適化されたカーネルはパフォーマンスの向上をもたらし、FlashAttention-4 (FA4)と比較して最大1.69倍の高速化を実現しています。

今回のリリースは、特殊な浮動小数点精度技術を通じて、NVIDIAの最新ハードウェア上で動作する大規模言語モデルの計算効率を高めることに焦点を当てています。