El proyecto llama.cpp lanzó la versión b9923, que presenta una refactorización significativa del componente server-stream para abordar problemas con el búfer de repetición de Server-Sent Events (SSE). Esta actualización introduce un patrón pimpl y agrupa las funciones públicas del flujo bajo el prefijo `server_stream_` para mejorar la organización del código.

  • El estado de la sesión y del gestor ahora está protegido por un mutex, con predicados condvar establecidos bajo el bloqueo mientras se mantiene la cancelación atómica para sondeo sin bloqueo.
  • Los comentarios se han recortado para centrarse en la justificación de la concurrencia, la duración y el orden, eliminando los que simplemente repiten el código.
  • Las trazas del flujo se han movido al nivel de depuración para reducir el ruido de registro predeterminado durante los diagnósticos de puesta en marcha.
  • La enumeración `stream_read_status` se ha movido al archivo .cpp para permanecer detrás del límite pimpl.

El lanzamiento incluye binarios para macOS (Apple Silicon e Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, HIP) y openEuler.