El proyecto llama.cpp lanzó la compilación b9974, que incluye una corrección crítica para las compilaciones de CUDA. La actualización evita fallos fatales que ocurrían cuando la biblioteca consultaba la información de la memoria de la GPU en dispositivos con cero o poca memoria disponible.
- Corrige un fallo en cudaMemGetInfo() haciendo que el error no sea fatal y asignando cero a la memoria total/libre del dispositivo afectado.
- Evita que el algoritmo fit intente colocar capas en dispositivos sin memoria libre, evitando fallos graves durante el inicio o al usar '-dev none'.
- Están disponibles compilaciones para macOS Apple Silicon (arm64), mientras que el soporte de KleidiAI para esta plataforma está deshabilitado.
- Se proporcionan binarios para Linux en Ubuntu x64 y arm64 (CPU), Vulkan, ROCm 7.2, OpenVINO y SYCL FP32/FP16.
- Se incluyen compilaciones para Android arm64 (CPU).
- Los binarios de Windows cubren CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP.
- El soporte para openEuler está parcialmente deshabilitado, con compilaciones específicas disponibles para las arquitecturas x86 y aarch64.
Este cambio asegura que llama.cpp permanezca estable en sistemas donde los recursos de memoria GPU están agotados o no disponibles, permitiendo que el software maneje estas condiciones de manera elegante en lugar de terminar inesperadamente.