llama.cpp b9910 corrige la inconsistencia entre ajuste y carga del modelo de borrador

El proyecto llama.cpp lanzó la versión b9910, que aborda una inconsistencia crítica entre el ajuste del modelo de borrador y su carga en el componente del servidor. Esta actualización incluye una corrección para el problema de limitación de la devolución de llamada de progreso durante la carga del modelo de borrador y refactoriza la inicialización especulativa.

• Unifica la inicialización de parámetros de predicción de borrador/múltiples tokens, así como la carga del modelo y el contexto.
• Mueve la lógica de inicialización especulativa a speculative.cpp.
• Cambia server_context_impl model_dft y ctx_dft para usar punteros sin procesar.
• Desactiva el soporte de KleidiAI Apple Silicon en macOS en esta versión.
• Proporciona binarios para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) y openEuler.

Esta versión garantiza un funcionamiento estable del servidor al utilizar la decodificación especulativa corrigiendo los mecanismos subyacentes de inicialización y carga.