O projeto llama.cpp lançou a versão b10057, que inclui várias correções de bugs para o backend SYCL junto com distribuições binárias padrão em múltiplas plataformas.
- Corrige o cálculo incorreto de linhas quando K_QUANTS_PER_ITERATION é 1 no SYCL.
- Atualiza o kernel Q5_K não reordenado para usar K_QUANTS_PER_ITERATION.
- Adiciona o processamento faltante da segunda metade ao kernel q5_k reordenado.
- Resolve um possível erro off-by-one e uma verificação de linha > nrows ausente no código SYCL.
Este lançamento fornece binários atualizados para macOS, Linux, Windows, Android e iOS, suportando vários backends de hardware incluindo CPU, CUDA, Vulkan, ROCm, OpenVINO e SYCL.