llama.cpp 프로젝트는 macOS, Linux, Windows, Android 및 openEuler에 대한 바이너리를 CPU, GPU 및 특수 하드웨어 백엔드용으로 제공하며 버전 b10035를 출시했습니다.

  • 주요 기술적 변경 사항은 CUDA에서 __byte_perm을 통한 Q1_0 요소 추출입니다(PR #25628).
  • macOS/iOS Apple Silicon에서의 KleidiAI 지원이 비활성화되었습니다.
  • x86 및 aarch64 아키텍처용 openEuler 빌드가 910b 칩에 대한 ACL Graph 지원을 포함하여 제공됩니다.
  • Windows 바이너리에는 기존 CUDA 12.4 외에도 CUDA 13.3, HIP 및 SYCL에 대한 지원이 포함되었습니다.

이번 릴리스는 특정 하드웨어 최적화로 코드베이스를 업데이트하고 다양한 운영 체제 및 가속기 유형에 대한 업데이트된 바이너리를 제공합니다.