शोधकर्ताओं ने दिखाया कि 8B तर्क शिक्षक (deepseek-r1:8B) को QLoRA के माध्यम से 0.6B छात्र मॉडल (Qwen3-0.6B) में संघनित करना, कम विलंबता और लागत के साथ उच्च-आयतन संरचित निष्कर्षण की अनुमति देता है। अध्ययन समाचार लेखों को सारांश और वर्गीकरण लेबल वाले JSON ऑब्जेक्ट्स में मैप करने पर इस दृष्टिकोण का मूल्यांकन करता है, जिसमें संघनित मॉडल की तुलना फ़ew-शॉट प्रॉम्प्टिंग और प्रतिबंधित डिकोडिंग आधार रेखाओं से की जाती है।
- छात्र मॉडल प्रत्येक लेख को लगभग 0.8 सेकंड में संसाधित करता है, जबकि शिक्षक का समय 39 सेकंड होता है, जो आधार मॉडल के सापेक्ष प्रदर्शन अंतर का 58% पुनः प्राप्त करता है।
- यह एक अंधे तीन-जज पैनल द्वारा सारांश गुणवत्ता स्कोर में प्रतिबंधित डिकोडिंग से +16.8 अंक और फ़ew-शॉट प्रॉम्प्टिंग से +4.9 अंक अधिक प्रदर्शन करता है।
- शिक्षक की तर्क क्षमता लेखन गुणवत्ता के लिए महत्वपूर्ण है, क्योंकि समान-आकार के गैर-तर्क शिक्षक से संघनित करने से अनट्यूंड आधार मॉडल के सापेक्ष कोई सुधार नहीं होता है।
- जबकि तर्क वंशज सारांश उत्पादन को बेहतर बनाता है, यह निर्देश-आधारित शिक्षक की तुलना में पतले-स्रोत लेखों पर अधिक कल्पना (fabrication) का कारण बनता है, जो बेहतर आधारण बनाए रखता है।
निष्कर्ष सुझाते हैं कि क्योंकि कोई एक इंजन हर क्षेत्र में नहीं जीतता है, डिवाइस पर समृद्धि के लिए इष्टतम दृष्टिकोण एकल मॉडल पर निर्भर रहने के बजाय प्रति-क्षेत्र राउटिंग मैप शामिल करता है।