O projeto vLLM lançou a versão 0.25.0rc2, abordando problemas específicos dentro do backend de modelagem do Transformers.
- Corrige problemas de escalonamento de embeddings.
- Resolve problemas com gráficos CUDA.
vLLM v0.25.0rc2 corrige escalonamento de embeddings e gráficos CUDA no backend do Transformers
Traduzido do English → Português (BR)