GLM 5.2 FP8 dengan KV FP8 mencapai 79,8% pada Terminal-Bench 2.1

Seorang pengguna menguji model GLM 5.2 menggunakan presisi FP8 dan kuantisasi cache kunci-nilai FP8 pada GPU H200 melalui SGLang. Evaluasi dilakukan pada suite benchmark Terminal-Bench 2.1.

• Model berhasil menyelesaikan 71 dari 89 tugas, menghasilkan skor 79,8%.
• Satu tugas mengalami timeout dan tidak dijalankan ulang, yang mungkin memengaruhi skor akhir.
• Pengujian menggunakan 218.656.815 token input dengan tingkat cache hit sebesar 98,8%.

Ini menunjukkan kinerja GLM 5.2 dalam kondisi kuantisasi tertentu pada perangkat keras kelas atas.