El proyecto vLLM ha lanzado la versión 0.25.0rc2, abordando problemas específicos dentro del backend de modelado de Transformers.
- Corrige problemas de escalado de embeddings.
- Resuelve problemas con los gráficos CUDA.
vLLM v0.25.0rc2 corrige el escalado de embeddings y los gráficos CUDA en el backend de Transformers
Traducido del English → Español