Проект llama.cpp выпустил версию b10057, которая включает несколько исправлений ошибок для бэкенда SYCL наряду со стандартными бинарными дистрибутивами для нескольких платформ.
- Исправлен неверный расчёт строк при K_QUANTS_PER_ITERATION равном 1 в SYCL.
- Обновлено нереструктурированное ядро Q5_K для использования K_QUANTS_PER_ITERATION.
- Добавлена отсутствующая обработка второй половины для реструктурированного ядра q5_k.
- Устранена потенциальная ошибка на единицу и отсутствующая проверка строки > nrows в коде SYCL.
Это обновление предоставляет обновлённые бинарники для macOS, Linux, Windows, Android и iOS, поддерживающие различные аппаратные бэкенды, включая CPU, CUDA, Vulkan, ROCm, OpenVINO и SYCL.