O projeto llama.cpp lançou a compilação b10011, que inclui uma refatoração da propriedade do estado do cache de prompts do servidor. Esta atualização move os dados de estado do prompt para `server_prompt_cache` e garante que as checkpoints sejam limpas ao limpar o prompt.

  • Servidor: lidar com a limpeza de slots em lote
  • macOS/iOS: compilações para Apple Silicon (arm64), Intel (x64) e iOS XCFramework; KleidiAI no Apple Silicon está desabilitado
  • Linux: binários para Ubuntu x64/arm64/s390x CPU, Vulkan, ROCm 7.2, OpenVINO e SYCL FP32/FP16
  • Android: binário de CPU arm64
  • Windows: binários para CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP
  • openEuler: compilações x86 e aarch64 para 310p e 910b (ACL Graph); compilação x86 desabilitada
  • UI: binário padrão da interface