أصدر مشروع llama.cpp الإصدار b10643، مقدمًا دعمًا لأجهزة NPU المتعددة (IQ9, IQ10) وخلفية غير متزامنة بالكامل لهندسة Hexagon.

  • يستخدم خلفية Hexagon الآن مخازن مؤقتة غير مضيفة بشكل افتراضي وينفذ عدم التزامن الكامل.
  • تمت إضافة دعم لمنصة Snapdragon Android 34.
  • اكتسبت الكمية Q8_0 دعمًا لمزيلات الكمّ غير الموضعية، وخطوط أنابيب DMA، وعمليات الصفوف.
  • تم تحسين عمليات ALLREDUCE باستخدام نوى مدمجة وكفاءة DMA محسّنة.
  • تم تعزيز آليات رموز المزامنة وال_fence_ لمزامنة أجهزة NPU عبر الانقسامات غير المتزامنة.

تتيح هذه التغييرات استنتاجًا فعالًا على عتاد Snapdragon متعدد NPU من خلال السماح بتنفيذ الأجهزة بالتوازي ونسخ موترات أسرع.