あるユーザーが、コーディングタスクに特化したGLM-5.2モデルの140 GB IQ2_XXS REAP量子化を作成しました。この量子化は、0xSero/GLM-5.2-REAP-504B-GGUFで見つかった最も好まれているREAPのimatrixキャリブレーション版を基にしています。
作成者は、結果のGGUFファイルとimatrixキャリブレーションファイル、および修正されたllama-quant.cppスクリプトをHugging Faceにアップロードし、他のユーザーがllama.cppをコンパイルして独自の量子化を生成できるようにしました。
著者は、この大規模モデルのパフォーマンスがQwen 3.6 27bやDeepSeek Flash v4などの小規模LLMと比較してどうなるかを評価するためのテスターを求めています。