llama.cpp b9938 रिलीज़ ने ggml-hip बैकएंड को अपडेट किया है ताकि -funsafe-math-optimizations कंपाइलर फ्लैग सक्षम किया जा सके, जिससे AMD/HIP बिल्ड्स उन तेज गणित अनुकूलनों का उपयोग कर सकें जो पहले केवल CUDA के लिए विशिष्ट थे।
यह बदलाव AMD हार्डवेयर के लिए एक स्पीडअप प्रदान करता है बिना NaN मुद्दों या कठोर -ffast-math फ्लैग से जुड़े कंपाइलेशन विफलताओं के कारण हुए। रिलीज़ में macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android, Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) और openEuler के लिए बाइनरी शामिल हैं।
अपडेट NVIDIA और AMD बैकएंड्स के बीच अनुकूलन क्षमताओं में समानता सुनिश्चित करता है, जबकि मास्किंग ऑपरेशन के लिए संख्यात्मक स्थिरता को बनाए रखता है।