Proyek llama.cpp merilis build b10011, yang mencakup refactor kepemilikan state cache prompt server. Pembaruan ini memindahkan data state prompt ke `server_prompt_cache` dan memastikan checkpoint dibersihkan saat prompt dihapus.

  • Server: menangani slot batched yang dibersihkan
  • macOS/iOS: build untuk Apple Silicon (arm64), Intel (x64), dan iOS XCFramework; KleidiAI pada Apple Silicon dinonaktifkan
  • Linux: biner untuk Ubuntu x64/arm64/s390x CPU, Vulkan, ROCm 7.2, OpenVINO, dan SYCL FP32/FP16
  • Android: biner CPU arm64
  • Windows: biner CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, dan HIP
  • openEuler: build x86 dan aarch64 untuk 310p dan 910b (ACL Graph); build x86 dinonaktifkan
  • UI: biner UI standar