تُقدم إصدار b10016 من llama.cpp دعمًا لـ SYCL لـ Flash Attention باستخدام محرك XMX عبر واجهة برمجة تطبيقات الرسوم البيانية oneDNN. يستهدف هذا التحديث بشكل أساسي أجهزة Intel Battlemage (Xe2)، مما يحد من نطاق الميزة إلى هذه البنية بينما تعود البنى الأخرى إلى النوى الموجودة.
- يوفر Flash Attention بعمق F16 تسريعًا بنسبة 1.21x في ملء المسبق لـ Qwen3.6-27b-Q8_0 عند طول تسلسل 512 وتسريعًا بنسبة 4.26x عند 80k.
- أظهرت الاختبارات المعيارية على Meta-Llama-3.1-8B-Instruct زيادة بنسبة 32% في أداء الملء المسبق مع فرق بسيط في التعقيد يبلغ 0.11% فقط.
- تتضمن التنفيذ بوابة Battlemage، ومزامنة متعددة الأجهزة لمعالجة التدفقات، وإصلاحات لمشاكل مزامنة وحدات معالجة الرسومات المتعددة.
يُمكّن هذا التغيير استنتاجًا أسرع على أجهزة Intel المتوافقة من خلال الاستفادة من قدرات التسريع الخاصة بالأجهزة.