El proyecto llama.cpp lanzó la compilación b9971, que incluye una refactorización de la funcionalidad `server_stream`. Esta actualización aborda la seguridad de hilos eliminando la llamada `rd.stop()` no segura para hilos y moviendo `server_res_spipe`. El lanzamiento también actualiza la documentación del desarrollador para reflejar la API mejorada.

  • Refactorizado `server_stream` y eliminado `spipe` de `server_http_res`
  • Eliminada la llamada `rd.stop()` no segura para hilos y movido `server_res_spipe`
  • Actualizados los documentos de desarrollo para la API de servidor-stream mejorada
  • Deshabilitadas las compilaciones de macOS Apple Silicon (arm64, KleidiAI habilitado)
  • Proporcionados binarios para macOS, Linux, Android, Windows y openEuler a través de CPU, GPU y aceleradores de IA

El lanzamiento asegura la seguridad de hilos en el componente de transmisión del servidor mientras mantiene un amplio soporte de plataforma.