5개의 모델과 2개의 하드웨어 플랫폼에 걸쳐 온디바이스 Vision-Language Model (VLM) 추론을 체계적으로 에너지 프로파일링한 결과, 주요 에너지 병목 현상은 시각적 지각이 아닌 출력 생성에서 비롯됨이 드러났다. 이 연구는 시각 토큰을 줄이는 것이 가장 효과적인 효율화 전략이라는 일반적인 가정을 뒤집고, 전력 절약을 위해서는 출력 길이를 제어하는 것이 중요함을 입증했다.
- 평균 추론 전력은 입력 해상도나 이미지 복잡도에 관계없이 5% 미만의 변동으로 모델 고유의 상수이다.
- 각 출력 토큰에는 prefill 및 decode 단계 간의 연산 및 메모리 비대칭성으로 인해 각 입력 토큰보다 11~39배 더 많은 월클럭 시간이 소요된다.
- 객체 수로 측정된 이미지 복잡도는 시각 처리 비용이 아닌 출력 길이의 변동을 통해 최대 4.1배의 에너지 차이를 유발한다.
- 고정 토큰 모델에서 시각 토큰 프루닝이 절약할 수 있는 총 에너지는 최대 10%인 반면, 10억~80억 파라미터 범위의 모델 간 출력 길이를 제어하면 최대 97%를 절약할 수 있다.
이러한 발견은 에지 VLM 추론에서 진정한 에너지 병목 현상이 무엇을 지각하는지가 아니라 얼마나 생성하느냐에 의해 결정됨을 나타내며, 시각 토큰 감소보다 디코딩 효율성을 우선시해야 할 필요성을 강조한다.