llama.cpp 프로젝트가 버전 b9803을 출시했으며, 여기에는 불완전한 배치에 대해 종료 시 OpenCL의 프로파일링 배치를 플러시하는 수정 사항이 포함되어 있습니다. 이 업데이트는 다양한 하드웨어 백엔드에서 macOS, Linux, Windows, Android 및 openEuler용 바이너리를 제공합니다.

  • macOS Apple Silicon (arm64) 및 Intel (x64) 빌드가 KleidiAI 비활성화 상태로 제공됩니다.
  • Linux는 Ubuntu x64 및 arm64 CPU, Vulkan, ROCm 7.2, OpenVINO 및 SYCL FP32/FP16을 지원합니다.
  • Windows는 CPU, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL, HIP 및 OpenCL Adreno 빌드를 제공합니다.
  • Android arm64 (CPU) 및 iOS XCFramework 바이너리가 포함되어 있습니다.
  • openEuler은 ACL Graph와 함께 x86 및 aarch64를 지원하며, 표준 openEuler 풀 리퀘스트는 비활성화되어 있습니다.

이 릴리스는 다양한 하드웨어 구성 간에 호환성을 보장하고 OpenCL 사용자를 위한 프로파일링 데이터 처리를 수정합니다.