أصدر مشروع llama.cpp الإصدار b10693، الذي يقدم دعمًا لوحات NPU من Qualcomm Hexagon. يتيح هذا التحديث اكتشاف نوى NPU المتاحة أثناء التشغيل ويسمح بإنشاء جلسات استنتاج عند الطلب.

  • تمت إضافة واجهات تخصيص وتنظيف الجلسات المتأخر للأجهزة Hexagon.
  • تم تنفيذ اكتشاف نوى NPU المتاحة أثناء التشغيل.
  • تم تكوين رفض الأجهزة غير الموجودة مبكرًا أثناء التهيئة.
  • تم توفير ملفات ثنائية لأنظمة macOS وLinux وWindows وAndroid وopenEuler عبر الخلفيات CPU وVulkan وROCm وOpenVINO وSYCL وCUDA.