Proyek llama.cpp telah merilis versi b9846, yang mencakup optimasi backend Vulkan untuk Asahi Linux. Pembaruan ini mengembalikan loop ukuran blok dalam perkalian matriks untuk meningkatkan kompatibilitas dan kinerja pada perangkat keras Apple Silicon yang menjalankan Linux.

  • Vulkan: Mengembalikan loop BK dalam matmul untuk Asahi Linux melalui pengeditan SPIR-V langsung.
  • Vulkan: Membatalkan perubahan unroll loop BK sebelumnya dan memperbaiki komentar baris.
  • macOS/iOS: Menyediakan biner untuk Apple Silicon (arm64) dan Intel (x64), dengan KleidiAI dinonaktifkan.
  • Linux: Menawarkan build untuk Ubuntu x64, arm64, dan s390x di berbagai backend CPU, Vulkan, ROCm 7.2, OpenVINO, dan SYCL.
  • Windows: Termasuk build CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL, dan HIP untuk x64 dan arm64.
  • Android: Melepaskan biner CPU arm64.

Rilis ini memastikan dukungan Vulkan yang stabil di Asahi Linux sambil menyediakan biner pra-build komprehensif untuk berbagai arsitektur perangkat keras dan perpustakaan akselerasi.