एक उपयोगकर्ता ने SGLang के माध्यम से H200 GPU पर FP8 precision और FP8 key-value cache quantization का उपयोग करके GLM 5.2 मॉडल का परीक्षण किया। मूल्यांकन Terminal-Bench 2.1 benchmark suite पर किया गया था।
- मॉडल ने 89 में से 71 कार्यों को पास किया, जिससे 79.8% स्कोर मिला।
- एक कार्य समय समाप्त हो गया और फिर से नहीं चलाया गया, जिससे अंतिम स्कोर प्रभावित हो सकता है।
- परीक्षण में 218,656,815 इनपुट tokens का उपयोग किया गया, जिसमें cache hit rate 98.8% था।
यह उच्च-अंत हार्डवेयर पर विशिष्ट quantization स्थितियों के तहत GLM 5.2 की प्रदर्शन क्षमता को दर्शाता है।