llama.cpp b9909 agrega cronometraciones y progreso al stream de la API /responses

El proyecto llama.cpp ha lanzado la versión b9909, que introduce información de tiempo y progreso en el stream de la API /responses. Esta actualización está disponible en múltiples plataformas, incluyendo macOS, Linux, Windows, Android y openEuler.

• El cambio funcional principal es la adición de cronometraciones y detalles de progreso en la salida en streaming para el endpoint de la API /responses.
• Se proporcionan binarios precompilados para varias arquitecturas como Apple Silicon, Intel x64, ARM64 y s390x.
• El soporte de GPU incluye CUDA 12.4 y 13.3, Vulkan, ROCm 7.2, OpenVINO, SYCL y HIP.
• El soporte de KleidiAI para macOS Apple Silicon está deshabilitado en esta versión.

Esta actualización permite a los usuarios monitorear el progreso de las respuestas de la API de manera más efectiva.