사용자가 코딩용 GLM 5.2에 대한 140 GB IQ2_XXS REAP 양자화 생성

한 사용자가 코딩 작업에 특화된 GLM-5.2 모델의 140 GB IQ2_XXS REAP 양자화를 생성했습니다. 이 양자화는 0xSero/GLM-5.2-REAP-504B-GGUF에서 발견된 가장 인기 있는 REAP의 imatrix 보정 버전을 기반으로 합니다.

제작자는 결과 GGUF 파일, imatrix 보정 파일, 그리고 수정된 llama-quant.cpp 스크립트를 Hugging Face에 업로드하여 다른 사용자가 llama.cpp를 컴파일하고 자체 양자화를 생성할 수 있도록 했습니다.

저자는 이 대규모 모델의 성능이 Qwen 3.6 27b 및 DeepSeek Flash v4와 같은 작은 LLM과 어떻게 비교되는지 평가할 테스트러를 찾고 있습니다.