O desenvolvedor eramax lançou um pipeline de código aberto e um patch para llama.cpp que comprime o grande modelo GLM-5.2 Mixture of Experts para caber em uma única RTX 3090 com 24 GB de VRAM.
A abordagem utiliza whitening de ativações reais e uma base compartilhada para as matrizes gate e up, reduzindo o tamanho médio do especialista para ~1.4 MiB enquanto mantém uma similaridade cosseno offline média de 0.959. A árvore de codec comprimida reduz os requisitos de armazenamento de centenas de gigabytes no formato GGUF bruto para poucos gigabytes. Apesar da compressão e carregamento por camada bem-sucedidos, a geração de texto de ponta a ponta permanece quebrada devido a erros empilhados nas 75 camadas.
O trabalho serve como uma transferência de pesquisa para desenvolvimento adicional no design do codec e calibração, em vez de um produto finalizado.