Z.ai ने GLM-5.3 जारी किया, जो एक नियंत्रित प्रयोग है जो दर्शाता है कि पोस्ट-ट्रेनिंग को स्केल करने से बेस मॉडल या पैरामीटर गणना को बदले बिना लंबे-अवधि तर्क में महत्वपूर्ण लाभ होते हैं।
रिलीज में GLM-5.2 के समान आर्किटेक्चर और कुल/सक्रिय पैरामीटर बनाए रखे गए हैं, लेकिन लंबे-अवधि वातावरणों और रीइन्फोर्समेंट लर्निंग पर एक महीने का स्केलिंग जोड़ा गया है। लेखकों का तर्क है कि जटिल इनफरेंस चेन को संभालने जैसे क्षमताओं के लिए पैरामीटर गणना की तुलना में प्रभावी गहराई और पोस्ट-ट्रेनिंग अब अधिक महत्वपूर्ण हैं। स्केलिंग कानूनों ने ट्रेनिंग कंप्यूट को अनुकूलित करने से डेटा, कंप्यूट और इनफरेंस लागतों के बीच संतुलन बनाने की ओर बदला है, जहां प्रति-पैरामीटर इष्टतम टोकन कार्य के अनुसार भिन्न होते हैं।
यह दृष्टिकोण Z.ai को मॉडल का आकार बढ़ाए बिना विशिष्ट क्षमताओं में सुधार करने की अनुमति देता है, और बेस मॉडल स्केलिंग को भविष्य के इटरेशन के लिए सुरक्षित रखता है।