El proyecto vLLM lanzó la versión 0.25.1, que incluye una corrección de errores para las fusiones de cuantización RMSNorm para allreduce de tipos mixtos.

  • La actualización aborda un problema con las fusiones de cuantización RMSNorm para allreduce de tipos mixtos en el marco de trabajo.