llama.cpp प्रोजेक्ट ने संस्करण b10307 जारी किया, जिसमें NVFP4 क्वांटीज़ेशन में उपयोग किए जाने वाले UE4M3 स्केलिंग कारकों को सही ढंग से पार्स करने के लिए SYCL GPU कोड में एक सुधार शामिल है।

  • अपडेट ने signed E4M3 से unsigned में स्केल मानों के रूपांतरण को ठीक किया, क्योंकि NVFP4 इन कारकों को अलग-अलग UE4M3 बाइट्स में संग्रहीत करता है।
  • macOS (Apple Silicon और Intel), Linux (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16), Android, Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) और openEuler के लिए बाइनरी उपलब्ध हैं।
  • सामान्य उपयोग के लिए एक UI बिल्ड भी प्रदान की गई है।