LLaMA.cpp b9663 릴리스는 OP EXPM1 지원과 FLOOR, TRUNC, ROUND에 대한 모든 단위 테스트 케이스를 추가했습니다. macOS, Linux, Android, Windows, openEuler용 업데이트된 바이너리를 포함하며, SYCL(FP32 및 FP16), Vulkan, CUDA 12.4 및 13.3, ROCm 7.2 지원을 제공하고 UI도 업데이트되었습니다.
sycl 업데이트는 Q4_K, Q5_K 및 Q6_K에 대한 MoE MUL_MAT_ID의 재정렬된 전문가 텐서 처리 지원을 확장합니다. 지원되지 않는 3D 재정렬 사례는 이제 중단하는 대신 폴백으로 전환됩니다.
llama.cpp의 b9661 릴리스는 Vulkan에 GGML_OP_COL2IM_1D 지원을 추가했으며, 모듈로와 함께 전체 K 스캔 대신 제한된 gather 루프를 사용합니다. 지원되지 않는 유형에는 nullptr을 반환하며, CPU, Vulkan, CUDA 및 SYCL에서 macOS, Linux, Android, Windows 및 openEuler용 빌드를 포함합니다.