llama.cpp 프로젝트는 OpenCL 백엔드 변경 사항이 포함된 버전 b10064를 출시했습니다. 이 업데이트는 noshuffle scales를 전치하여 결합된 읽기를 활성화함으로써 q4_K 양자화 형식을 수정합니다.
- 릴리스에는 macOS(Apple Silicon 및 Intel), Linux(Ubuntu x64, arm64, s390x), Windows(CPU, CUDA 12/13, Vulkan, ROCm, SYCL, HIP), Android 및 iOS용 바이너리가 제공됩니다.
- Windows arm64에 대한 OpenCL Adreno 지원이 제공됩니다.
- macOS Apple Silicon에서의 KleidiAI 지원은 이 빌드에서 비활성화된 상태로 유지됩니다.
- 업데이트는 특정 양자화 레이어에 대한 메모리 접근 패턴을 최적화하여 성능 문제를 해결합니다.