أصدر مشروع llama.cpp الإصدار b9928، مقدّماً تخطيطات VTCM جديدة وخطوط أنابيب محسّنة للخلفية (backend) الخاصة بـ Hexagon. تستهدف هذه التغييرات بشكل خاص تحسينات الأداء لعمليات MUL_MAT وMUL_MAT_ID وFLASH_ATTN_EXT.
- إعادة هيكلة حساب معاملات النواة لاستخدام مُنشئ تخطيط مشترك.
- إضافة حواجز مترجم صريحة لجعل دوال hmx أكثر متانة.
- تنفيذ مُنشئ تخطيط VTCM أكثر عمومية لعمليات ضرب المصفوفات وأنوية flash-attn.
- فك تشابك الأنوية الداخلية واستبدال الدوال الجوهزية (intrinsics) بترجمة آلية مضمنة لتجنب مشاكل المترجم.
- تحسين خطوط أنابيب DMA، والسحب المسبق (prefetching)، ومسارات الإخفاق للمزامنة.
- إضافة الاستطلاع الهجين إلى مجموعة العمل وتحسين آليات إيقاظ الطابور.
يوفر هذا الإصدار ملفات ثنائية لأنظمة macOS (Apple Silicon وIntel) وiOS وLinux (Ubuntu x64 وarm64 وs390x) وAndroid وWindows وopenEuler عبر خلفيات عتادية متنوعة تشمل CPU وCUDA وROCm وVulkan وOpenVINO وSYCL وHIP.