Proyek llama.cpp telah merilis versi b10057, yang mencakup beberapa perbaikan bug untuk backend SYCL bersama dengan distribusi biner standar di berbagai platform.

  • Memperbaiki perhitungan baris yang salah ketika K_QUANTS_PER_ITERATION adalah 1 di SYCL.
  • Memperbarui kernel Q5_K yang tidak diurutkan ulang untuk menggunakan K_QUANTS_PER_ITERATION.
  • Menambahkan pemrosesan separuh kedua yang hilang ke kernel q5_k yang diurutkan ulang.
  • Menyelesaikan kesalahan off-by-one potensial dan pemeriksaan baris > nrows yang hilang dalam kode SYCL.

Rilis ini menyediakan biner yang diperbarui untuk macOS, Linux, Windows, Android, dan iOS, mendukung berbagai backend perangkat keras termasuk CPU, CUDA, Vulkan, ROCm, OpenVINO, dan SYCL.