Hao AI Lab推出了一套专为Blackwell B300架构设计的FP4注意力内核。这些优化后的内核带来了性能提升,与FlashAttention-4 (FA4)相比,最高可实现1.69倍的加速。

此次发布专注于通过专门的浮点精度技术,提高在NVIDIA最新硬件上运行的大型语言模型的计算效率。