Le projet llama.cpp a publié la version b10010, qui introduit de nouvelles options en ligne de commande pour configurer le partage de ressources entre origines (CORS) dans son serveur HTTP intégré.

  • Le serveur prend désormais en charge les indicateurs `--cors-*` pour contrôler le comportement du CORS.
  • Une valeur spéciale "localhost" est disponible pour les paramètres d'origine.
  • Des tests ont été ajoutés et mis à jour pour couvrir la nouvelle fonctionnalité.
  • Des binaires sont fournis pour macOS (Apple Silicon et Intel), iOS, Linux (Ubuntu x64, arm64, s390x with CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android (arm64), Windows (CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP) et openEuler.

Cette mise à jour permet aux utilisateurs de gérer plus flexiblement les requêtes inter-origines lors de l'exécution locale du serveur llama.cpp.