llama.cpp b10043 adiciona suporte a Dispositivos Virtuais CUDA

O projeto llama.cpp lançou a compilação b10043, introduzindo suporte para Dispositivos Virtuais CUDA. Esta atualização desativa o caminho NCCL quando dispositivos virtuais são utilizados e inclui refatoração de código juntamente com descrições de dispositivos virtuais rotuladas.

• Suporte para Dispositivos Virtuais CUDA é adicionado ao backend.
• O caminho de comunicação NCCL é desativado quando dispositivos virtuais são usados.
• Dispositivos virtuais agora estão rotulados nas descrições, e jobs CI para servidores GPUx2 foram adicionados.
• Binários são fornecidos para macOS (Apple Silicon e Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) e openEuler.

Este lançamento permite que os usuários executem o llama.cpp em sistemas que utilizam Dispositivos Virtuais CUDA, mantendo a compatibilidade em uma ampla gama de arquiteturas de hardware e sistemas operacionais.