llama.cpp b9946 menambahkan optimisasi operasi unary Hexagon dan biner baru

Proyek llama.cpp telah merilis versi b9946, memperkenalkan optimisasi signifikan untuk prosesor Qualcomm Hexagon bersama dengan artefak build baru untuk berbagai platform.

• Operasi unary Hexagon sekarang melakukan tiling baris lebar untuk menghindari overflow VTCM dan mengganti pembagian dengan fastdiv.
• Pembaruan ini mencakup instrumenasi pelacakan dan kernel HVX yang disederhanakan untuk peningkatan generasi kode.
• Biner macOS Apple Silicon tersedia, meskipun dukungan KleidiAI tetap dinonaktifkan.
• Build Linux baru mencakup target CPU, Vulkan, ROCm 7.2, OpenVINO, dan SYCL.
• Rilis Windows sekarang menyertakan dukungan CUDA 13 di samping opsi CUDA 12, OpenCL, dan HIP yang ada.

Rilis ini menyediakan biner yang diperbarui untuk lingkungan desktop dan mobile sambil meningkatkan kinerja pada perangkat keras berbasis Hexagon.