研究者らは、既存のビジュアルトークンプルーニング手法が密な指示下で重要な手がかりを保持できないという課題に対処するために設計されたフレームワークであるエントロピー対応密プルーニング（EADP）を提案する。このアプローチは、統計的エントロピーを活用してテキストノイズをフィルタリングし、トークン選択を空間事前情報付きのサブモジュラー最大化問題として定式化することで、プルーニングを構造化圧縮問題として再定義する。

  • EADPは統計的エントロピーを使用してテキストノイズを定量化・フィルタリングし、堅牢な指示関連性スコアを得る。
  • トークン選択は空間事前情報付きのサブモジュラー最大化問題として定式化され、包括的で冗長性のないビジュアル表現を保証する。
  • この手法は、厳格なトークン予算下でビジョン・ランゲージモデル（VLMs）の精度と効率のトレードオフを改善する。
  • EADPは、微細なビジュアル手がかりを保持しながら、困難なマルチモーダルベンチマークで最先端のパフォーマンスを実現する。

著者らはこれを重要視している。それは、単純なTop-K選択ではしばしば失われる微細なビジュアル手がかりを堅牢に保持し、それによってVLMsの全体的な効率と精度を向上させるからである。