El proyecto llama.cpp lanzó la versión b9957, que se centra en mejorar la infraestructura de herramientas del servidor. La actualización introduce una abstracción `tools_io` y su implementación básica, mientras elimina la función `apply_diff`.

  • Funcionalidad mejorada de la herramienta de edición
  • Agregada abstracción tools_io y tools_io_basic
  • Utilidades movidas a miembros de clase y agregados calificadores const
  • Corregidos problemas de compilación
  • Desactivado el soporte de KleidiAI para Apple Silicon en macOS
  • Proporcionados binarios para macOS, Linux, Android, Windows y openEuler para CPU, GPU y varios aceleradores como CUDA, Vulkan, ROCm y OpenVINO

Esta versión actualiza las capacidades del lado del servidor y proporciona binarios actualizados para una amplia gama de plataformas de hardware.