El proyecto llama.cpp lanzó la compilación b10693, que introduce soporte para NPUs Qualcomm Hexagon. Esta actualización permite el descubrimiento en tiempo de ejecución de los núcleos NPU disponibles y posibilita la creación de sesiones de inferencia bajo demanda.
- Se añadieron interfaces de asignación y limpieza perezosa de sesiones para dispositivos Hexagon.
- Se implementó el descubrimiento en tiempo de ejecución de los núcleos NPU disponibles.
- Se configuró el rechazo temprano de dispositivos inexistentes durante la inicialización.
- Se proporcionaron binarios para macOS, Linux, Windows, Android y openEuler a través de los backends CPU, Vulkan, ROCm, OpenVINO, SYCL y CUDA.