Proyek llama.cpp merilis versi b9885, yang mencakup perbaikan kritis untuk platform AIX dengan mengaktifkan perkalian matriks bertiling. Perubahan ini mengurangi jejak buffer tumpukan lokal untuk mencegah kesalahan segfault yang disebabkan oleh buffer besar di jalur matmul_tiled.

  • Peningkatan kinerja sekitar 2x pada PP_Speed diamati untuk model FP32, Q4_0, dan Q8_0 di AIX.
  • Rilis ini menyediakan biner untuk macOS (Apple Silicon dan Intel), Linux (Ubuntu x64, arm64, s390x), Windows (CPU, CUDA, Vulkan, ROCm, dll.), Android, dan openEuler.
  • Dukungan KleidiAI untuk macOS Apple Silicon dinonaktifkan dalam build ini.

Pembaruan ini memastikan stabilitas pada sistem AIX sambil memberikan percepatan inferensi yang signifikan untuk format kuantisasi yang didukung.