Пользователь создал 140 ГБ IQ2_XXS REAP квантование модели GLM-5.2, специально ориентированное на задачи программирования. Это квантование основано на версии с калибровкой imatrix наиболее популярного REAP, найденной по адресу 0xSero/GLM-5.2-REAP-504B-GGUF.

Автор загрузил полученный файл GGUF на Hugging Face вместе с файлом калибровки imatrix и модифицированным скриптом llama-quant.cpp, что позволяет другим компилировать llama.cpp и создавать собственные квантования.

Автор ищет тестировщиков для оценки того, как эта большая модель сравнивается по производительности с более маленькими LLM, такими как Qwen 3.6 27b и DeepSeek Flash v4.