El proyecto llama.cpp ha lanzado la versión b9973, que incluye una actualización específica para los modelos DeepseekV4. El cambio principal implica limpiar el caché solo para la secuencia en lugar del contexto completo.
- Están disponibles binarios para macOS Apple Silicon e Intel.
- Se proporciona XCFramework para iOS.
- Las compilaciones de Ubuntu cubren los backends CPU, Vulkan, ROCm 7.2, OpenVINO y SYCL.
- Se incluye un binario de CPU arm64 para Android.
- Las compilaciones de Windows admiten CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP.
- Están disponibles compilaciones de openEuler x86 y aarch64 con ACL Graph.
Este lanzamiento proporciona binarios actualizados para varias plataformas y aceleradores de hardware.