独立した研究者が、量子化、プルーニング、蒸留などのモデル圧縮技術が実際に測定されたエネルギー消費を削減するのか、それとも単に FLOPs を低減させるだけなのかを分析する文献レビューを発表しました。

  • レビューは 2019 年から 2026 年までの 53 の作品からなるコーパスに基づいています。
  • ソフトウェアによるエネルギー推定器とハードウェアカウンター（RAPL、NVML）の差異は、圧縮方法が主張する節約額と同程度の大きさです。
  • メモリ帯域幅、バッチサイズ、バックエンドカーネルの実装を考慮した後、FLOPs は測定されたエネルギー消費と弱い相関しか示しません。
  • あるハードウェアプラットフォームでの圧縮ランキングは、別のプラットフォームには信頼性を持って移行できません。

著者は Zenodo と GitHub でレビューおよび関連するデータ表を共有しており、arXiv への投稿に向けて cs.LG の支援を求めています。