OrbitQuant — это независимый от данных квантователь весов и активаций, предназначенный для снижения затрат на инференс диффузионных трансформеров (DiTs) за счёт обхода необходимости в калибровочных данных для каждой контрольной точки. Он выполняет квантование в нормированном повернутом базисе с использованием рандомизированной переставленной блочной ротации Хадамара, что позволяет одному кодовому словарю Lloyd-Max обслуживать все временные шаги, промпты и слои.
- Метод расширяется на строки весов офлайн, поглощая ротацию в весах, так что во время выполнения остаётся только прямая ротация активаций.
- Он переносится с генерации изображений на генерацию видео без необходимости настройки для каждой модальности.
- OrbitQuant устанавливает состояние искусства для постобучающего квантования (PTQ) в моделях FLUX.1, Z-Image-Turbo, Wan 2.1 и CogVideoX.
- Он продвигает PTQ диффузионных трансформеров изображений до W2A4, сохраняя при этом пригодное для использования качество генерации.
Этот подход обеспечивает единое решение для квантования с низким битом в различных модальностях без накладных расходов на повторную подгонку калибровочных данных для каждой новой контрольной точки или типа ввода.