Proyek llama.cpp telah merilis build b10048, yang mencakup perbaikan untuk model Phi3, Bert, Plamo2/3, dan ChatGLM.

  • Memperbaiki masalah dengan arsitektur Phi3, Bert, Plamo2/3, dan ChatGLM.
  • Dukungan KleidiAI untuk macOS Apple Silicon dinonaktifkan dalam build ini.
  • Build openEuler tersedia untuk arsitektur x86 dan aarch64, termasuk dukungan ACL Graph 910b.
  • Binari Windows sekarang mencakup dukungan CUDA 13.3 bersama dengan opsi CUDA 12.4 yang ada.
  • Binari pra-dibuat disediakan untuk Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android arm64, dan macOS Intel.

Rilis ini menyediakan binari yang diperbarui untuk berbagai platform dan akselerator perangkat keras untuk memastikan kompatibilitas dengan arsitektur model yang ditentukan.