قام مشروع qwen4exp بتنفيذ دعم تراجع الحالة المتكررة لتمكين فك التشفير التخميني الفعال للتنبؤ متعدد الرموز (MTP). يسمح هذا التغيير للحالة المستهدفة بالرجوع إلى عدد رموز المسودة المرفوضة، مما يمنع التسلسل غير الضروري للحالة المتكررة بأكملها إلى ذاكرة المضيف.
في السابق، كانت الدالة `build_conv_state_at` تكتب مستوى واحدًا فقط، مما يؤدي إلى استعادة تاريخ تشويش غير مكتمل عند التراجع. يقوم التحديث الآن بكتابة لقطة واحدة لكل فتحة لكل من QKV delta net وتشويشات PLE، مما يضمن استعادة دقيقة للحالة.
أظهرت نتائج الاختبارات على Qwen3.8-Flash-Next UD-Q4_K_XL مع مسودة MTP سرعات فك تشفير تبلغ 183 tok/s للكود و144 tok/s للنثر. هذا تحسن كبير مقارنة بطريقة الاحتياط السابقة، التي حققت فقط 123 و83 tok/s على التوالي.