Le projet llama.cpp a publié la version b9957, qui se concentre sur l'amélioration de l'infrastructure d'outillage du serveur. Cette mise à jour introduit une abstraction `tools_io` et son implémentation de base, tout en supprimant la fonction `apply_diff`.
- Amélioration des fonctionnalités de l'outil d'édition
- Ajout de l'abstraction tools_io et de tools_io_basic
- Déplacement des utilitaires vers les membres de classe et ajout de qualificateurs const
- Correction de problèmes de compilation
- Désactivation du support KleidiAI pour macOS Apple Silicon
- Fourniture de binaires pour macOS, Linux, Android, Windows et openEuler sur CPU, GPU et divers accélérateurs tels que CUDA, Vulkan, ROCm et OpenVINO
Cette version met à jour les capacités côté serveur et fournit des binaires mis à jour pour une large gamme de plateformes matérielles.