Le projet vLLM a publié la version 0.25.1, qui inclut un correctif pour les fusions de quantification RMSNorm allreduce mixte.
- La mise à jour traite d'un problème avec les fusions de quantification RMSNorm allreduce mixte dans le framework.
Le projet vLLM a publié la version 0.25.1, qui inclut un correctif pour les fusions de quantification RMSNorm allreduce mixte.