Le projet llama.cpp a publié la version b10307, qui inclut une correction pour le code GPU SYCL afin d'analyser correctement les facteurs d'échelle UE4M3 utilisés dans la quantification NVFP4.
- La mise à jour corrige la conversion des valeurs d'échelle de E4M3 avec signe vers sans signe, car NVFP4 stocke ces facteurs dans des octets UE4M3 individuels.
- Les binaires sont disponibles pour macOS (Apple Silicon et Intel), Linux (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16), Android, Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) et openEuler.
- Une compilation avec interface utilisateur est également fournie pour un usage général.