Le projet llama.cpp a publié la version b9927, qui comprend une mise à jour significative de l'interface en ligne de commande en la déplaçant vers une implémentation basée sur HTTP. Ce changement introduit le support du mode routeur au sein de l'interface CLI.
- L'interface CLI utilise désormais un backend basé sur HTTP au lieu des méthodes précédentes.
- Le mode routeur est pris en charge dans la nouvelle implémentation de l'interface CLI.
- Les alias de modèle sont désormais affichés dans l'interface.
- Des binaires précompilés sont disponibles pour macOS (Apple Silicon et Intel), Linux, Android, Windows et openEuler.
- Les options d'accélération GPU incluent CUDA 12/13, Vulkan, ROCm, OpenCL, SYCL et OpenVINO sur les plateformes prises en charge.
Cette version fournit des binaires mis à jour pour divers systèmes d'exploitation et configurations matérielles, parallèlement au changement architectural dans les outils de l'interface CLI.