독립 연구자가 양자화, 가지치기, 증류 등의 모델 압축 기법이 실제로 측정된 에너지 소비를 줄이는지 아니면 단순히 FLOPs 만 낮추는지 분석하는 문헌 검토를 발표했습니다.
- 검토는 2019 년부터 2026 년까지의 53 편의 작품 코퍼스를 기반으로 합니다.
- 소프트웨어 에너지 추정치와 하드웨어 카운터(RAPL, NVML)는 압축 방법이 주장하는 절감분과 비교할 수 있는 마진으로 불일치합니다.
- 메모리 대역폭, 배치 크기 및 백엔드 커널 구현을 고려한 후 FLOPs 는 측정된 에너지와 약한 상관관계만 보입니다.
- 한 하드웨어 플랫폼에서의 압축 순위는 다른 플랫폼으로 신뢰성 있게 전달되지 않습니다.
저자는 Zenodo 와 GitHub 에서 검토 및 관련 데이터 표를 공유하며 arXiv 에 작업을 게시하기 위해 cs.LG 의 승인을 받고 있습니다.