أصدر مشروع llama.cpp الإصدار b11184، الذي يقدم نواة تحويل والاش-هادامارد السريع (FWHT) الجديدة لخلفية Metal وتدعم عروض كتل أكبر من 512. في السابق، كانت تنفيذ FWHT لـ Metal محدودًا بعروض تتراوح بين 64 و512.
- تتعامل النواة الجديدة مع العروض من 1024 حتى 8192 عن طريق تشغيل صف واحد لكل مجموعة خيوط مع 256 خيطًا، مما يسمح للكتل الأوسع باستخدام ذاكرة مجموعة الخيوط بدلاً من الاعتماد حصريًا على المسجلات.
- تستمر العروض من 64 إلى 512 في استخدام نواة simdgroup الموجودة، بينما تدعم النوى العريضة الجديدة كلا نوعي المصدر F32 وF16.
- يتضمن التنفيذ فحوصات للحجم ضد حدود الجهاز لمنع الانهيار على الأجهزة ذات ذاكرة مجموعة الخيوط غير الكافية، حيث يتم تخصيص ذاكرة float[N] تصل إلى 32 كيلوبايت عند عرض 8192.
- اجتازت اختبارات تشغيل الخلفية على جهاز M5 Pro جميع الفحوصات لـ MUL_MAT_HADAMARD وMUL_MAT.
يُمكّن هذا التحديث llama.cpp من إجراء عمليات ضرب هادامارد على أحجام كتل أكبر داخل خلفية Metal، مما يمدد نطاق أبعاد المصفوفات المدعومة لأجهزة Apple Silicon.