أصدر مشروع llama.cpp الإصدار b10737، الذي يعالج أخطاء حرجة في دعم بنية qwen4exp. يحل التحديث مشكلات استمرارية حالة التسلسل ويمنع توقف CUDA أثناء تحميل النموذج.

  • يصلح انهيار kvu NaN ويعيد بيانات ذاكرة التخزين المؤشر لمؤشرات ext.x/ext.y خلال عمليات الحفظ والاستعادة المتبادلة لنماذج qwen4exp.
  • يصح اشتقاق عدد صفوف per_layer_token_embd ويرفض فك إحالات المؤشر الفارغ في طبقات ذاكرة التخزين المؤشر التكرارية PLE.
  • يعطل علم الموتر -sm لنماذج qwen4exp، الذي كان يسبب قيم logits NaN وانهيارات على الأجهزة الفعلية سابقاً.
  • يعيد تسمية seq_set إلى seq_get_all لحل تعارضات تحميل الدوال ويضيف اختبارات تتحقق من سلامة الحالة.

تضمن هذه التغييرات إمكانية تحميل وحفظ نماذج qwen4exp دون تلف البيانات أو أخطاء وقت التشغيل، خاصة عند استخدام محتوى mrope ثنائي الأبعاد أو طبقات PLE.