Проект llama.cpp выпустил версию b9902, которая вводит поддержку SYCL для операций `cross_entropy_loss` и `cross_entropy_loss_back` через запрос на слияние #25236. Это обновление также включает исправление проблемы форматирования в кодовой базе.

  • macOS/iOS: Бинарные файлы предоставлены для Apple Silicon (arm64) и Intel (x64), а также iOS XCFramework; поддержка KleidiAI на Apple Silicon отключена.
  • Linux: Доступны сборки для Ubuntu x64, arm64 и s390x CPU, а также варианты Vulkan, ROCm 7.2, OpenVINO и SYCL (FP32/FP16).
  • Android: Включен бинарный файл для CPU arm64.
  • Windows: Релизы охватывают процессоры x64 и arm64, OpenCL Adreno, CUDA 12.4 и 13.3, Vulkan, OpenVINO, SYCL и HIP.
  • openEuler: Доступны сборки для x86 (310p, 910b ACL Graph) и aarch64 (310p, 910b ACL Graph), при этом исходный запрос на слияние помечен как отключенный.

Это расширение аппаратной совместимости путем включения ускорения SYCL для определенных функций потерь и предоставляет комплексные бинарные файлы для основных операционных систем и бэкендов ускорителей.