O lançamento do llama.cpp b9938 atualiza o backend ggml-hip para habilitar a flag do compilador -funsafe-math-optimizations, permitindo que as compilações AMD/HIP usem otimizações de matemática rápida anteriormente exclusivas para CUDA.
Esta mudança fornece uma aceleração para hardware AMD sem causar problemas de NaN ou falhas de compilação associadas à flag mais rigorosa -ffast-math. O lançamento inclui binários para macOS (Apple Silicon e Intel), Linux (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android, Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) e openEuler.
A atualização garante paridade nas capacidades de otimização entre os backends NVIDIA e AMD, mantendo a estabilidade numérica para operações de mascaramento.