गणित और कोडिंग कार्यों में vanilla 3.6-35B-a3b वेरिएंट की तुलना में HuiHui abliterated मॉडल पर लागू कस्टम क्वांटीकरण रेसिपी श्रेष्ठ प्रदर्शन दिखाती है। परिणाम संकेत देते हैं कि अस्वीकृति तंत्रों को हटाने से मॉडल इन डोमेन में अधिक सटीकता और ज्ञान प्राप्त कर सकता है।
- HuiHui और Vanilla 3.6-35B-a3b दोनों मॉडलों के लिए समान कस्टम क्वांटीकरण का उपयोग किया गया था।
- लंबे तर्क श्रृंखलाओं के बिना instruct मोड में oMLX सूट का उपयोग करके बेंचमार्क किए गए थे।
- छोटे नमूना आकार के बावजूद, abliterated मॉडल ने गणित और कोडिंग बेंचमार्क पर सुधारा हुआ प्रदर्शन दिखाया।
निष्कर्ष संकेत देते हैं कि abliteration विशिष्ट तकनीकी क्षेत्रों में मॉडल क्षमताओं को बढ़ा सकता है, और HuiHui मॉडल प्रदान किए गए Hugging Face लिंक के माध्यम से डाउनलोड के लिए उपलब्ध है।