Proyek vLLM merilis versi 0.25.1, yang mencakup perbaikan bug untuk fusi kuantisasi RMSNorm allreduce dtype campuran.

  • Pembaruan ini mengatasi masalah dengan fusi kuantisasi RMSNorm allreduce dtype campuran dalam framework.