Celestium Neonは、GTX 1650のようにメモリがわずか4GBのグラフィックスカードでStable Diffusion XL (SDXL)推論を可能にし、VRAMをクリーンアップするために設計された新しいツールです。
このツールは以下の主要なメカニズムを通じて動作します：
- ゾンビテンソルからVRAMを解放するためのL1-L2 PyTorchクリーンアップ
- MiBの低下をリアルタイムで表示するリアルタイムVRAMモニタリング
- メモリ不足エラーが発生したときにクリーンアップを強制するSDXL RESET機能
- 5分ごとに設定される自動クリーンアップ間隔
ドライバー591.86を搭載したGTX 1650でのテストにより、このツールがOOMクラッシュを成功裡に防止し、クリーンアップ後にVRAM使用量を938 MiBまで削減して画像生成の完了を可能にすることが示されました。