Proyek llama.cpp merilis versi b10051, yang mengatasi masalah kritis dalam integrasi kemampuan Scalable Matrix Extension (SME). Pembaruan ini memperkenalkan perbedaan pada waktu kompilasi dan runtime antara SME(v1) dan SME2 untuk memastikan dispatch kernel yang benar.
- Versi sebelumnya memperlakukan SME sebagai satu kemampuan tunggal, secara salah mendispatch instruksi khusus SME2 ke perangkat keras yang hanya mendukung SME(v1).
- Perbaikan menghubungkan kernel SME(v1) dan SME2 berdasarkan dukungan perangkat keras aktual, mencegah eksekusi yang salah pada sistem yang hanya memiliki SME(v1).
- Binari tersedia untuk macOS (Apple Silicon dan Intel), Linux (x64, arm64, s390x, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, HIP, OpenVINO, SYCL), dan openEuler.
Perubahan ini memastikan bahwa llama.cpp berjalan dengan benar pada berbagai perangkat keras ARM dengan menghormati versi SME spesifik yang didukung oleh CPU.