تم تطبيق تقنية تحسين جديدة بدقة مختلطة تُسمى Voodoo Quant على نماذج Qwen3.5 0.8B و2B، مدعيةً تقليل انحراف كولباك-لايبلر (KLD) بنسبة 95% مقارنة بـ Unsloth Dynamic 2.0.
- يقوم Voodoo Quant بتحسين كل موتر بشكل فردي بدلاً من كتل المتجهات، باستخدام منهجية مختلفة لاختيار الدقة.
- تُظهر التقنية أداءً تنافسيًا عبر كل من هياكل الرسومات Torch وLlama.cpp، بينما يُظهر أسلوب Unsloth أداءً أدنى بكثير في Torch.
- يشير ذلك إلى أن Unsloth قد يكون مفرط التخصيص (overfit) لـ Llama.cpp، بينما يقدم Voodoo نهج تحسين أكثر عمومية.
- يلاحظ المؤلف أن الكمية "2 بت" تبدو هي الإعداد الأمثل لهذه التقنية.
يهدف المطور إلى توسيع هذا البحث ليشمل نماذج أكبر مثل Qwen3.6 27B وDeepSeek v4 flash لتحسين فائدتها على الأجهزة الأخف وزنًا.