Le projet vLLM a publié la version 0.25.0rc2, traitant de problèmes spécifiques au sein du backend de modélisation Transformers.
- Correction des problèmes de mise à l'échelle des embeddings.
- Résolution des problèmes avec les graphes CUDA.
vLLM v0.25.0rc2 corrige le mise à l'échelle des embeddings et les graphes CUDA dans le backend Transformers
Traduit de English → Français