OrbitQuant adalah kuantizer bobot-aktivasi agnostik data yang dirancang untuk mengurangi biaya inferensi pada transformer difusi (DiTs) dengan menghindari kebutuhan akan data kalibrasi per-checkpoint. Ia melakukan kuantisasi dalam basis normal dan berputar menggunakan rotasi Hadamard blok yang diacak secara acak, memungkinkan satu codebook Lloyd-Max melayani semua timestep, prompt, dan lapisan.
- Metode ini diperluas ke baris bobot secara offline, menyerap rotasi ke dalam bobot sehingga hanya rotasi maju pada aktivasi yang tersisa saat runtime.
- Ia mentransfer dari generasi gambar ke video tanpa penyetelan per-modality yang diperlukan.
- OrbitQuant menetapkan state of the art untuk kuantisasi pasca-pelatihan (PTQ) di FLUX.1, Z-Image-Turbo, Wan 2.1, dan CogVideoX.
- Ia mendorong PTQ transformer difusi gambar ke W2A4 sambil mempertahankan kualitas generasi yang dapat digunakan.
Pendekatan ini menyediakan solusi terpadu untuk kuantisasi bit rendah di berbagai modality tanpa overhead penyesuaian ulang data kalibrasi untuk setiap checkpoint atau jenis input baru.