Le projet llama.cpp a publié la version b10011, qui inclut un refactorisation de la propriété de l'état du cache d'invite du serveur. Cette mise à jour déplace les données d'état de l'invite vers `server_prompt_cache` et garantit que les points de contrôle sont effacés lors de l'effacement de l'invite.

  • Serveur : gérer le nettoyage des fentes par lots
  • macOS/iOS : compilations pour Apple Silicon (arm64), Intel (x64) et iOS XCFramework ; KleidiAI sur Apple Silicon est désactivé
  • Linux : binaires pour Ubuntu x64/arm64/s390x CPU, Vulkan, ROCm 7.2, OpenVINO et SYCL FP32/FP16
  • Android : binaire CPU arm64
  • Windows : binaires CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL et HIP
  • openEuler : compilations x86 et aarch64 pour 310p et 910b (ACL Graph) ; compilation x86 désactivée
  • UI : binaire UI standard