Celestium Neon은 GTX 1650처럼 메모리가 4GB에 불과한 그래픽 카드에서 Stable Diffusion XL (SDXL) 추론을 가능하게 하고 VRAM을 정리하도록 설계된 새로운 도구입니다.

이 도구는 다음과 같은 주요 메커니즘을 통해 작동합니다:

  • 좀비 텐서로부터 VRAM을 해제하기 위한 L1-L2 PyTorch 정리
  • MiB 감소를 실시간으로 표시하는 실시간 VRAM 모니터링
  • 메모리 부족 오류가 발생할 때 강제로 정리를 수행하는 SDXL RESET 기능
  • 5분마다 설정된 자동 정리 간격

드라이버 591.86이 설치된 GTX 1650에서의 테스트는 이 도구가 OOM 크래시를 성공적으로 방지하고, 정리 후 VRAM 사용량을 938 MiB로 줄여 이미지 생성이 완료되도록 함을 보여줍니다.