llama.cpp b10043 menambahkan dukungan untuk CUDA Virtual Devices

Proyek llama.cpp merilis build b10043, memperkenalkan dukungan untuk CUDA Virtual Devices. Pembaruan ini menonaktifkan jalur NCCL ketika perangkat virtual digunakan dan mencakup refaktor kode serta deskripsi perangkat virtual yang diberi label.

• Dukungan untuk CUDA Virtual Devices ditambahkan ke backend.
• Jalur komunikasi NCCL dinonaktifkan ketika perangkat virtual digunakan.
• Perangkat virtual sekarang diberi label dalam deskripsi, dan pekerjaan CI server GPUx2 ditambahkan.
• Binari disediakan untuk macOS (Apple Silicon dan Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), dan openEuler.

Rilis ini memungkinkan pengguna menjalankan llama.cpp pada sistem yang memanfaatkan CUDA Virtual Devices sambil mempertahankan kompatibilitas di berbagai arsitektur perangkat keras dan sistem operasi.