قام مستخدم بمعايرة خمسة مشتقات وتباينات من llama.cpp باستخدام نموذج Qwen 3.6-27B على بطاقة RTX 3090 واحدة لتقييم أداء التخمين التفسيري.
- حقق ik_llama مع ضبط ubergarm لـ MTP أعلى سرعة سردية عند 63.9 TPS، بينما وصل متغير ngram+MTP إلى 87.8 TPS لتوليد الكود.
- سجل beellama باستخدام DFlash مع نموذج مسودة مستقل أعلى إنتاجية للكود عند 96.8 TPS لكنه عانى من زمن طويل للوصول لأول رمز (TTFT) بلغ 504 مللي ثانية.
- قدم llama.cpp الرئيسي أدنى زمن TTFT (288 مللي ثانية) وحافظ على سرعة ثابتة عبر أطوال السياق، على عكس المشتقات التي أظهرت تدهوراً كبيراً.
- قدم Spiritbuun اتساقاً قوياً مع تدهور في السياق بنسبة -9% فقط، بينما أدى LUCEBOX أداءً ضعيفاً عبر المقاييس.
تسلط النتائج الضوء على المفاضلات بين الإنتاجية الخام، وزمن الوصول لأول رمز، واستقرار السياق عند اختيار محرك للاستدلال المحلي.