llama.cpp b9965 meningkatkan kinerja ARGSORT untuk tensor kecil

Proyek llama.cpp merilis versi b9965, yang mencakup optimisasi signifikan untuk operasi ARGSORT pada tensor kecil melalui backend hexagon. Pembaruan ini memperkenalkan implementasi pengurutan bitomik yang efisien menggunakan register HVX yang mampu menangani hingga 1024 elemen.

• Ditambahkan pengurutan bitomik yang efisien dalam register HVX untuk hingga 1024 elemen.
• Memperbaiki VROR terbalik di modul hex-sort.
• Fungsi pengurutan khusus untuk kasus umum dan penambahan pelacakan/konteks lokal.
• Build macOS Apple Silicon (arm64) dengan KleidiAI sekarang dinonaktifkan.

Rilis ini menyediakan biner yang diperbarui untuk macOS, Linux, Android, Windows, dan openEuler di berbagai backend CPU dan GPU termasuk CUDA, Vulkan, ROCm, dan OpenVINO.