Proyek llama.cpp telah merilis versi b10025, yang mencakup perubahan untuk melonggarkan persyaratan kontiguitas tensor untuk operasi penggabungan terkuantisasi.

  • Pembaruan inti memodifikasi backend CUDA dan library ggml di bawahnya untuk memungkinkan tensor non-kontigu selama penggabungan terkuantisasi.
  • Kasus uji telah ditambahkan untuk memverifikasi fungsionalitas dengan input penggabungan terkuantisasi non-kontigu.
  • Binari disediakan untuk macOS (Apple Silicon dan Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, OpenCL, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP), dan openEuler.

Rilis ini memperbarui lingkungan build dan memperbaiki batasan penanganan tensor tertentu untuk operasi terkuantisasi.