Пользователь на форумах Hugging Face интересуется потенциальной разработкой версии ConvRot с квантованием INT8 или FP8 для модели FireRed Image Edit v1.1.
Автор поста отмечает, что тестирование стандартных вариантов FP8, таких как E4M3, приводит к заметным артефактам текста и смещению лиц при сложных изменениях изображений. Он предлагает использовать встроенную поддержку форматов ConvRot в ComfyUI для выполнения прохода квантования с использованием этой матричной стратегии.
Цель состоит в том, чтобы предоставить чистый файл трансформера, который уменьшает потерю деталей, сохраняя скорость генерации, что особенно полезно для пользователей с видеокартами среднего и начального уровня по объему VRAM.