llama.cpp b10058 menambahkan dukungan Q2_0 Vulkan dan menonaktifkan KleidiAI di macOS

Proyek llama.cpp merilis build b10058, yang memperkenalkan dukungan untuk format kuantisasi Q2_0 di backend Vulkan-nya. Pembaruan ini juga mencakup distribusi biner untuk berbagai platform termasuk macOS, Linux, Windows, dan Android.

• Backend Vulkan sekarang mendukung kuantisasi Q2_0, dengan peningkatan kinerja dicapai dengan menggandakan baris per workgroup dalam uji mat-vec-mul.
• Build Apple Silicon macOS dengan KleidiAI diaktifkan dinonaktifkan dalam rilis ini.
• Biner baru tersedia untuk Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), dan Android arm64.
• Framework UI macOS diperbarui ke versi b10058.

Rilis ini memungkinkan pengguna memanfaatkan kuantisasi bit rendah pada perangkat keras yang kompatibel dengan Vulkan sambil menyediakan biner yang diperbarui di seluruh sistem operasi utama.