llama.cpp 프로젝트가 버전 b10066을 출시하여 OpenCL을 통해 `kernel_gemm_moe_q6_k_f32_ns` 커널 지원을 도입했습니다. 이 업데이트는 프레임워크 내에서 이 특정 바이너리 커널 라이브러리를 로드하고 사용할 수 있게 합니다.
- 릴리스에는 macOS (Apple Silicon 및 Intel), iOS, Linux (Ubuntu x64, arm64, s390x with CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL FP32/FP16), Windows (CPU, Vulkan, CUDA 12/13, OpenVINO, SYCL, HIP) 및 Android용 바이너리가 포함되어 있습니다.
- 이 빌드에서는 macOS Apple Silicon에 대한 KleidiAI 지원이 비활성화되었습니다.
- 이 릴리스에 대한 openEuler 지원도 비활성화되었습니다.
이 업데이트는 새로운 OpenCL 커널 구현을 통해 사용자에게 더 넓은 하드웨어 호환성을 제공합니다.