O projeto llama.cpp lançou a versão b10020, que inclui uma correção para a função get_rows do backend SYCL afetando os formatos de quantização Q2_K, Q4_K e Q5_K.

  • Compilações para macOS/iOS fornecidas para Apple Silicon (arm64), Intel (x64) e iOS XCFramework, com KleidiAI desativado no Apple Silicon.
  • Binários do Linux disponíveis para CPUs Ubuntu x64, arm64 e s390x, além das variantes Vulkan, ROCm 7.2, OpenVINO e SYCL FP32/FP16.
  • Compilação de CPU arm64 para Android incluída.
  • Lançamentos para Windows cobrem CPUs x64 e arm64, OpenCL Adreno, CUDA 12.4 e 13.3, Vulkan, OpenVINO, SYCL e HIP.
  • O suporte ao openEuler está parcialmente desativado, com compilações disponíveis para x86 (310p, 910b ACL Graph) e aarch64 (310p, 910b ACL Graph).
  • Um binário de UI standalone também é fornecido.

Este lançamento garante maior compatibilidade de hardware entre vários sistemas operacionais e aceleradores, enquanto corrige problemas específicos de quantização do SYCL.