एक उपयोगकर्ता ने Qwen-आधारित फाइन-ट्यून्स के साथ प्रयोग करने की सुविधा देने के लिए Qwen3.5 और Qwen3.6 Middle/Large मॉडल (27B पैरामीटर और ऊपर) के MTP-only GGUF सबसेट प्रकाशित किए हैं।
- फ़ाइलें आवश्यक ड्राफ्ट वेट्स प्रदान करके उन Qwen-आधारित मॉडल्स के लिए टोकन जनरेशन को त्वित करती हैं जिनमें MTP टेन्सर नहीं होते हैं।
- वे यह दिखाते हैं कि Qwen3.5/3.6 MTP टेन्सर को मौजूदा GGUF फ़ाइलों के अंदर कैसे एम्बेड किया जा सकता है, जिससे Ornith-1.0-35B जैसी अन्य क्वांटाइज़ेशन में पाई गई समस्याओं का समाधान होता है।
- सबसेट दो उपयोगों का समर्थन करते हैं: llama.cpp के लिए अलग ड्राफ्ट मॉडल फ़ाइलों के रूप में या MTP से संबंधित टेन्सर को ट्रांसप्लांट करने के लिए ग्राफ्टिंग एसेट्स के रूप में।
ये संसाधन सुलभ और आसानी से परीक्षण योग्य मॉडल फ़ाइलें प्रदान करके Qwen3.5/3.6-आधारित फाइन-ट्यून्स के साथ परीक्षण और प्रयोग को आसान बनाने का लक्ष्य रखते हैं।