llama.cpp b9842 릴리스는 /v1/models 엔드포인트에서 프리셋 및 캐시된 모델 엔트리의 중복을 제거하는 변경 사항을 도입합니다. 이 업데이트는 Hugging Face의 Adrien Gallouët이 승인했습니다.

  • macOS Apple Silicon (arm64) 바이너리가 제공되며, KleidiAI 지원은 비활성화되어 있습니다.
  • Linux 빌드에는 Ubuntu x64/arm64/s390x CPU 버전, Vulkan, ROCm 7.2, OpenVINO 및 SYCL FP32/FP16 변형이 포함됩니다.
  • Android arm64 (CPU) 바이너리는 모바일 배포를 위해 제공됩니다.
  • Windows 릴리스는 x64/arm64 CPU, OpenCL Adreno, CUDA 12.4/13.3, Vulkan, OpenVINO, SYCL 및 HIP 백엔드를 다룹니다.
  • openEuler 지원에는 310p 및 910b 칩을 위한 ACL Graph와 함께 x86 및 aarch64 빌드가 포함되지만, 표준 openEuler는 비활성화되어 있습니다.
  • 독립형 UI 바이너리도 릴리스 애셋에 포함되어 있습니다.

이 릴리스는 다양한 플랫폼과 하드웨어 가속기에서 업데이트된 바이너리를 제공하여 다양한 CPU 및 GPU 아키텍처와의 호환성을 보장합니다.