llama.cpp b10016 menambahkan Flash Attention SYCL dengan mesin XMX

Rilis llama.cpp b10016 memperkenalkan dukungan SYCL untuk Flash Attention menggunakan mesin XMX melalui API grafik oneDNN. Pembaruan ini terutama ditargetkan pada perangkat keras Intel Battlemage (Xe2), mempersempit cakupan fitur ke arsitektur ini sementara arsitektur lain kembali ke kernel yang ada.

• Flash Attention F16 memberikan percepatan prefill 1,21x untuk Qwen3.6-27b-Q8_0 pada panjang urutan 512 dan percepatan 4,26x pada 80k.
• Benchmark pada Meta-Llama-3.1-8B-Instruct menunjukkan peningkatan kinerja prefill sebesar 32% dengan perbedaan perplexity hanya 0,11%.
• Implementasi mencakup gerbang Battlemage, sinkronisasi multi-perangkat untuk penanganan aliran, dan perbaikan untuk masalah sinkronisasi multi-GPU.

Perubahan ini memungkinkan inferensi yang lebih cepat pada GPU Intel yang kompatibel dengan memanfaatkan kemampuan akselerasi spesifik perangkat keras.