Релиз llama.cpp b9938 обновляет бэкенд ggml-hip, чтобы включить флаг компилятора -funsafe-math-optimizations, позволяя сборкам AMD/HIP использовать оптимизации быстрой математики, ранее доступные только для CUDA.

Это изменение обеспечивает ускорение для оборудования AMD без возникновения проблем с NaN или ошибок компиляции, связанных со строгим флагом -ffast-math. В релиз включены бинарные файлы для macOS (Apple Silicon и Intel), Linux (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android, Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) и openEuler.

Обновление обеспечивает паритет возможностей оптимизации между бэкендами NVIDIA и AMD, сохраняя при этом численную стабильность для операций маскирования.