llama.cpp 프로젝트가 버전 b9994를 출시했으며, 이는 풀 리퀘스트 #25419를 통해 Q2_0 양자화 지원을 도입했습니다. 이 업데이트는 macOS, Linux, Windows, Android, openEuler에 대한 사전 빌드 바이너리를 다양한 하드웨어 백엔드에서 제공합니다.

  • Metal 백엔드에 Q2_0 지원 추가.
  • macOS/iOS Apple Silicon 빌드에서 KleidiAI 지원을 비활성화.
  • CPU, Vulkan, CUDA (12.4 및 13.3), ROCm, OpenVINO, SYCL, HIP, OpenCL Adreno에 대한 바이너리 제공.
  • 릴리스에 iOS XCFramework 및 UI 패키지 포함.