Pengguna membuat kuantisasi REAP IQ2_XXS 140 GB untuk GLM 5.2 guna pemrograman

Seorang pengguna telah membuat kuantisasi REAP IQ2_XXS 140 GB dari model GLM-5.2, yang secara khusus menargetkan tugas pemrograman. Kuantisasi ini didasarkan pada versi kalibrasi imatrix dari REAP paling disukai yang ditemukan di 0xSero/GLM-5.2-REAP-504B-GGUF.

Pembuat telah mengunggah file GGUF hasil, file kalibrasi imatrix, dan skrip llama-quant.cpp yang dimodifikasi ke Hugging Face, memungkinkan orang lain untuk mengompilasi llama.cpp dan menghasilkan kuantisasi mereka sendiri.

Penulis mencari penguji untuk mengevaluasi bagaimana model besar ini dibandingkan dalam kinerja dengan LLM yang lebih kecil seperti Qwen 3.6 27b dan DeepSeek Flash v4.