Rilis llama.cpp b10034 mengatasi masalah kritis di mana kompiler untuk perangkat Adreno A7x melakukan kompilasi ulang yang salah pada kernel repack, menyebabkan korupsi bobot dan output sampah pada model Mixture of Experts (MoE). Untuk menyelesaikan ini, pembaruan tersebut mengecualikan perangkat Adreno A7x dari penggunaan kernel MoE spesifik ini.
- Mengecualikan Adreno A7x dari penggunaan kernel MoE Adreno karena masalah kompilasi ulang yang salah oleh kompiler.
- Juga mengecualikan GPU A6x dan Adreno yang tidak diketahui dari repack bobot MoE untuk memastikan stabilitas.
- Menonaktifkan dukungan KleidiAI untuk build macOS Apple Silicon.
- Menyediakan biner untuk macOS (Apple Silicon dan Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), dan openEuler.
Perubahan ini mencegah korupsi output model pada perangkat keras Adreno yang terpengaruh, memastikan inferensi yang andal bagi pengguna dengan GPU tersebut.