Turboderp ने ExLlamaV3 में महत्वपूर्ण अपडेट जारी किए हैं, जिसमें Mixture of Experts (MoE) विशेषज्ञों के लिए CPU ऑफलोड क्षमताएं शामिल हैं। इस अपडेट में हाल ही में जारी GLM-5.3-Flash और Qwen3.8-Flash मॉडल के लिए समर्थन भी शामिल है।
- MoE विशेषज्ञों के लिए विशेष रूप से CPU ऑफलोड का कार्यान्वयन।
- ngram डिस्क ऑफलोड क्षमताओं के साथ Qwen-3.8-Flash-Next के लिए समर्थन।
- exl3 प्रारूप के माध्यम से GLM-5.3-Flash का एकीकरण।
- एक नई स्व-अनुकूलित अनुकूलन तकनीक की शुरुआत।
- इंजन में विभिन्न अन्य अनुकूलन और सुधार।
ये अपडेट ExLlamaV3 की हार्डवेयर लचीलेता और मॉडल संगतता को बढ़ाते हैं, जिससे उपयोगकर्ता विशिष्ट मॉडल घटकों के लिए CPU संसाधनों का लाभ उठा सकते हैं।