Проект vLLM выпустил версию 0.25.1, которая включает исправление ошибки в слияниях квантования RMSNorm для allreduce смешанных типов данных.
- Обновление устраняет проблему со слияниями квантования RMSNorm для allreduce смешанных типов данных во фреймворке.