llama.cpp 프로젝트는 여러 플랫폼에 대한 표준 바이너리 배포와 함께 SYCL 백엔드에 대한 여러 버그 수정을 포함하는 버전 b10057을 출시했습니다.
- SYCL에서 K_QUANTS_PER_ITERATION이 1일 때 잘못된 행 계산 수정.
- 재정렬되지 않은 Q5_K 커널을 업데이트하여 K_QUANTS_PER_ITERATION을 사용하도록 변경.
- 재정렬된 q5_k 커널에 누락된 두 번째 절반 처리 추가.
- SYCL 코드에서 잠재적인 off-by-one 오류 및 누락된 행 > nrows 확인 해결.
이 릴리스는 macOS, Linux, Windows, Android 및 iOS용 업데이트된 바이너리를 제공하며 CPU, CUDA, Vulkan, ROCm, OpenVINO 및 SYCL을 포함한 다양한 하드웨어 백엔드를 지원합니다.