O Celestium Neon é uma nova ferramenta projetada para limpar a VRAM e permitir a inferência do Stable Diffusion XL (SDXL) em placas gráficas com apenas 4 GB de memória, como a GTX 1650.
A ferramenta opera por meio de vários mecanismos-chave:
- Limpeza L1-L2 do PyTorch para liberar VRAM de tensores zumbis
- Monitoramento da VRAM em tempo real para exibir quedas de MiB ao vivo
- Funcionalidade SDXL RESET para forçar a limpeza quando erros de falta de memória ocorrem
- Intervalos de limpeza automática definidos a cada 5 minutos
Testes em uma GTX 1650 com o driver 591.86 demonstraram que a ferramenta previne com sucesso travamentos por OOM, reduzindo o uso da VRAM para 938 MiB após a limpeza e permitindo que a geração de imagens seja concluída.