Hao AI Lab ने ब्लैकवेल B300 आर्किटेक्चर के लिए डिज़ाइन किए गए FP4 एटेंशन kernels का एक नया सेट पेश किया है। ये अनुकूलित kernels प्रदर्शन में सुधार प्रदान करते हैं, FlashAttention-4 (FA4) की तुलना में 1.69x तक गति वृद्धि हासिल करते हैं।
यह रिलीज़ विशेष फ्लोटिंग-पॉइंट सटीकता तकनीकों के माध्यम से NVIDIA के नवीनतम हार्डवेयर पर चलने वाले बड़े भाषा मॉडलों की कंप्यूटेशनल दक्षता को बढ़ाने पर केंद्रित है।