Para peneliti menyajikan OrbitQuant, sebuah kuantizer berat-aktivasi agnostik data yang dirancang untuk mengatasi biaya inferensi tinggi dari transformer difusi (DiTs). Metode ini menghindari estimasi rentang dengan melakukan kuantisasi dalam basis normal dan berputar menggunakan rotasi Hadamard blok acak.
- Satu codebook Lloyd-Max melayani semua timestep, prompt, dan lapisan untuk dimensi input tertentu.
- Baris berat diperluas secara offline untuk menyerap rotasi, membatalkannya di dalam lapisan linear sehingga hanya rotasi aktivasi maju yang tersisa saat runtime.
- Pendekatan ini berpindah dari gambar ke video tanpa penyetelan per-modality yang diperlukan.
- Ini menetapkan state of the art untuk kuantisasi pasca-pelatihan di FLUX.1, Z-Image-Turbo, Wan 2.1, dan CogVideoX.
Teknik ini mendorong PTQ transformer difusi gambar ke W2A4 sambil mempertahankan kualitas generasi yang dapat digunakan.