La versión llama.cpp b9938 actualiza el backend ggml-hip para habilitar la bandera del compilador -funsafe-math-optimizations, permitiendo que las compilaciones de AMD/HIP utilicen optimizaciones de matemáticas rápidas previamente exclusivas de CUDA.
Este cambio proporciona una aceleración para hardware AMD sin causar problemas de NaN ni fallos de compilación asociados con la bandera más estricta -ffast-math. La versión incluye binarios para macOS (Apple Silicon e Intel), Linux (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android, Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) y openEuler.
La actualización garantiza la paridad en las capacidades de optimización entre los backends de NVIDIA y AMD, manteniendo al mismo tiempo la estabilidad numérica para las operaciones de enmascaramiento.