llama.cpp 프로젝트가 버전 b10020을 출시했으며, 여기에는 Q2_K, Q4_K, Q5_K 양자화 형식에 영향을 미치는 SYCL 백엔드의 get_rows 함수에 대한 수정이 포함되어 있습니다.

  • Apple Silicon (arm64), Intel (x64) 및 iOS XCFramework용 macOS/iOS 빌드가 제공되며, Apple Silicon에서는 KleidiAI가 비활성화됩니다.
  • Ubuntu x64, arm64, s390x CPU용 Linux 바이너리를 사용할 수 있으며, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16 변형도 포함됩니다.
  • Android arm64 CPU 빌드가 포함되어 있습니다.
  • Windows 릴리스는 x64 및 arm64 CPU, OpenCL Adreno, CUDA 12.4 및 13.3, Vulkan, OpenVINO, SYCL, HIP를 지원합니다.
  • openEuler 지원은 부분적으로 비활성화되었으며, x86 (310p, 910b ACL Graph) 및 aarch64 (310p, 910b ACL Graph) 용 빌드가 제공됩니다.
  • 독립형 UI 바이너리도 제공됩니다.

이 릴리스는 여러 운영 체제와 가속기 전반에 걸쳐 더 넓은 하드웨어 호환성을 보장하고 특정 SYCL 양자화 문제를 수정합니다.