O projeto llama.cpp lançou a versão b9994, que introduz suporte de quantização Q2_0 por meio do pull request #25419. Esta atualização fornece binários pré-compilados para macOS, Linux, Windows, Android e openEuler em vários backends de hardware.

  • Adicionado suporte Q2_0 ao backend metal.
  • Desativado o suporte KleidiAI para builds Apple Silicon do macOS/iOS.
  • Fornecidos binários para CPU, Vulkan, CUDA (12.4 e 13.3), ROCm, OpenVINO, SYCL, HIP e OpenCL Adreno.
  • Incluídos pacotes iOS XCFramework e UI no lançamento.