llama.cpp b9928 menambahkan tata letak VTCM Hexagon dan pipa yang ditingkatkan untuk MUL_MAT, MUL_MAT_ID, dan FLASH_ATTN_EXT

Proyek llama.cpp merilis versi b9928, memperkenalkan tata letak VTCM baru dan pipa yang ditingkatkan untuk backend hexagon. Perubahan ini secara khusus menargetkan peningkatan kinerja untuk operasi MUL_MAT, MUL_MAT_ID, dan FLASH_ATTN_EXT.

• Melakukan refactor pada komputasi parameter kernel untuk menggunakan builder tata letak umum.
• Menambahkan penghalang kompilator eksplisit agar fungsi hmx lebih robust.
• Mengimplementasikan builder tata letak VTCM yang lebih generik untuk kernel perkalian matriks dan flash-attn.
• Melakukan unrolling pada kernel dalam dan mengganti intrinsik dengan assembly inline untuk menghindari masalah kompilator.
• Mengoptimalkan pipa DMA, prefetching, dan jalur fallback sinkronisasi.
• Menambahkan polling hibrida ke workpool dan meningkatkan mekanisme wakeup antrian.

Rilis ini menyediakan biner untuk macOS (Apple Silicon dan Intel), iOS, Linux (Ubuntu x64, arm64, s390x), Android, Windows, dan openEuler di berbagai backend perangkat keras termasuk CPU, CUDA, ROCm, Vulkan, OpenVINO, SYCL, dan HIP.