Le projet llama.cpp a publié la compilation b10328, qui introduit le support initial pour isoler les outils au sein du composant serveur en utilisant Docker. Cette mise à jour inclut la documentation et des adaptations de code pour séparer les bac à sable d'E/S des outils et renommer les indicateurs de configuration pertinents.

  • Serveur : ajoute le support initial d'isolation des outils via Docker (PR #26507)
  • Met à jour la documentation et adapte la fonctionnalité get_info
  • Corrige les problèmes de vérification de types Python
  • Sépare tools_io_sandbox de tools_io_docker
  • Renomme sandbox en isolate et x-tool-docker en x-tool-runtime

La version fournit des binaires pour macOS, Linux, Windows, Android et iOS sur divers backends matériels incluant CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL et OpenCL.