Систематическое профилирование энергопотребления вывода Vision-Language Model (VLM) на устройстве для пяти моделей и двух аппаратных платформ показывает, что основное энергетическое узкое место — это генерация выходных данных, а не визуальное восприятие. Исследование опровергает распространённое предположение о том, что сокращение количества визуальных токенов является наиболее эффективной стратегией повышения производительности; вместо этого демонстрируется, что контроль длины вывода имеет решающее значение для экономии энергии.
- Средняя мощность вывода остаётся константой, присущей модели, с вариациями менее 5% независимо от разрешения входных данных или сложности изображения.
- Каждый выходной токен требует в 11–39 раз больше реального времени, чем каждый входной токен, из-за асимметрии вычислений и памяти между фазами префиллинга и декодирования.
- Сложность изображения, измеряемая количеством объектов, вызывает различия в энергопотреблении до 4,1 раза исключительно за счёт вариаций длины вывода, а не стоимости визуальной обработки.
- Удаление визуальных токенов экономит не более 10% общей энергии для моделей с фиксированным числом токенов, тогда как контроль длины вывода может сэкономить до 97% энергии для моделей от 1 миллиарда до 8 миллиардов параметров.
Эти выводы указывают на то, что истинное энергетическое узкое место при выводе VLM на периферии определяется тем, сколько генерирует модель, а не тем, что она воспринимает, подчёркивая необходимость приоритизации эффективности декодирования над сокращением визуальных токенов.