تم دمج DFlash، وهي طريقة فك التشفير التخميني باستخدام الانتشار الكتلي من z-lab، في llama.cpp (PR #22105). قام المؤلف باختبار الميزة الجديدة على NVIDIA RTX PRO 6000 Blackwell مع Qwen3.6-27B، ووجد أنها أسرع بشكل ملحوظ من الطرق السابقة مثل MTP.

  • يملأ DFlash كتلة تصل إلى 15 رمزًا في تمرير واحد بدلاً من مسودتها واحدة تلو الأخرى.
  • عند سياق بطول 36K، حقق DFlash سرعة 273.04 tok/s مقارنة بـ 61.47 tok/s للأساسي، مما يمثل تسارعًا بنسبة 4.44x.
  • أظهرت اختبارات الجودة على MATH-500 تدهورًا طفيفًا (86% مقابل 87% للنموذج الأساسي).
  • تتسبب الطريقة في عبء إضافي على ذاكرة الفيديو (VRAM) يبلغ حوالي 5GB لأوزان ومسودات المخزن المؤقت.
  • تزداد معدلات التسارع مع طول السياق، لتصل إلى 4.44x عند 36K، بينما تتدهور أداء الأساس كلما زاد السياق.

توفر هذه النهج مكاسب كبيرة في الأداء لاستخدام الذكاء الاصطناعي المحلي، خاصة في السيناريوهات منخفضة التزامن حيث لا تتنافس مسارات الانتشار بشدة على موارد الحوسبة.