对五种模型和两个硬件平台上的设备端视觉语言模型（VLM）推理进行的系统性能耗分析表明，主要的能耗瓶颈在于输出生成，而非视觉感知。该研究推翻了减少视觉词元是最有效效率策略的常见假设，证明控制输出长度对于节能至关重要。

  • 平均推理功率是一个与模型相关的常数，无论输入分辨率或图像复杂度如何，其变化均小于5%。
  • 由于预填充和解码阶段在计算和内存上的不对称性，每个输出词元所需的挂钟时间是每个输入词元的11到39倍。
  • 通过对象数量衡量的图像复杂度，仅通过输出长度的变化即可导致高达4.1倍的能耗差异，而非视觉处理成本。
  • 对于固定词元模型，视觉词元剪枝最多节省总能耗的10%，而控制输出长度在参数量从10亿到80亿的模型中可节省高达97%的能耗。

这些发现表明，边缘VLM推理中的真正能耗瓶颈由模型生成的内容量决定，而非其感知的内容，凸显了优先考虑解码效率而非视觉词元减少的必要性。