GLM 5.2 roda no MacBook Pro M5 a 2-2.8 tokens/s

Um usuário relata ter executado com sucesso o modelo GLM 5.2 em um MacBook Pro M5 com 48 GB de RAM usando o checkpoint pipenetwork/GLM-5.2-MLX-mixed-3_6bit. A velocidade de inferência atinge entre 2 e 2.8 tokens por segundo, dependendo da carga do sistema.

• O usuário utilizou Flash MOE para integrar o GLM 5.2 em um aplicativo personalizado no estilo Claude Desktop.
• Testes com um pre-prompt de 4.4k resultaram em 501 tokens de saída a 2t/s durante 6 minutos e 38 segundos.
• Um teste sem pre-prompt processou 400 tokens de entrada para produzir 337 tokens de saída em 3 minutos e 17 segundos.

Os resultados demonstram que o GLM 5.2 é viável para execução local em hardware Apple Silicon, oferecendo uma alternativa funcional a outros modelos como Qwen3.6 27B para tarefas específicas de codificação.