Proyek llama.cpp telah merilis versi b10064, yang mencakup perubahan pada backend OpenCL. Pembaruan ini memodifikasi format kuantisasi q4_K dengan mentransposisikan skala noshuffle untuk mengaktifkan pembacaan koalescen.

  • Rilis ini menyediakan biner untuk macOS (Apple Silicon dan Intel), Linux (Ubuntu x64, arm64, s390x), Windows (CPU, CUDA 12/13, Vulkan, ROCm, SYCL, HIP), Android, dan iOS.
  • Dukungan OpenCL Adreno tersedia untuk Windows arm64.
  • Dukungan KleidiAI di macOS Apple Silicon tetap dinonaktifkan dalam build ini.
  • Pembaruan ini mengatasi kinerja dengan mengoptimalkan pola akses memori untuk lapisan kuantisasi tertentu.