El proyecto llama.cpp ha lanzado la compilación b10328, que introduce soporte inicial para aislar herramientas dentro del componente del servidor utilizando Docker. Esta actualización incluye documentación y adaptaciones de código para separar las cajas de arena de E/S de las herramientas y renombrar las banderas de configuración relevantes.

  • Servidor: añade soporte inicial de aislamiento de herramientas mediante Docker (PR #26507)
  • Actualiza la documentación y adapta la funcionalidad get_info
  • Corrige problemas de verificación de tipos de Python
  • Separa tools_io_sandbox de tools_io_docker
  • Renombra sandbox a isolate y x-tool-docker a x-tool-runtime

El lanzamiento proporciona binarios para macOS, Linux, Windows, Android e iOS en varios backends de hardware que incluyen CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL y OpenCL.