أصدر مشروع llama.cpp الإصدار b11070، والذي يتميز بإعادة هيكلة كبيرة للخلفية Hexagon لدعم توجيهات الذاكرة 64 بت ومعالجة المخازن المؤقتة الموسعة. يتيح هذا التحديث دعم نقل البيانات المباشر (DMA) بشكل صحيح للنماذج الأكبر والعمليات المعقدة على معالجات Qualcomm Hexagon DSPs.

  • تمكين توجيهات المخازن المؤقتة الموسعة و DMA 64 بت عبر وحدة `hex-dma64`.
  • توسيع العمليات الثنائية لدعم المزيد من سيناريوهات DMA وتحديث SSM_CONV لاستخدام DMA مع دعم 64 بت.
  • زيادة عدد توجيهات الذاكرة (mmaps) إلى 64 لمنع الإقصاء في النماذج الأكبر.
  • إعادة كتابة حلقات softmax و GDN للاستفادة من DMA، مما يحسن استخدام سجلات HVX.
  • إضافة حلقة ثانوية كحل بديل للمعاملات الكبيرة جداً في DMA.

يتضمن الإصدار ملفات قابلة للتنفيذ لأنظمة macOS و Linux و Windows و Android و openEuler عبر خلفيات CPU و GPU (CUDA, Vulkan, ROCm) و NPU.