Proyek vLLM telah merilis versi 0.25.0rc2, yang menangani masalah tertentu dalam backend pemodelan Transformers.
- Memperbaiki masalah penskalaan embed.
- Menyelesaikan masalah dengan grafik CUDA.
vLLM v0.25.0rc2 memperbaiki penskalaan embed dan grafik CUDA di backend Transformers
Diterjemahkan dari English → Bahasa Indonesia