본 연구는 학습률 스케줄링 전략이 다양한 신경망 아키텍처의 분류 정확도에 미치는 영향을 체계적으로 조사하며, 스케줄러를 보조 하이퍼파라미터로만 취급하는 것을 넘어섭니다. 연구진은 LEMUR 신경망 데이터셋 내의 합성곱 및 트랜스포머 계열에서 30개의 대표 모델을 평가했습니다.
- 자동화된 소스 코드 주입을 통해 9개 PyTorch 계열 전체에 25개 스케줄러 구성이 적용되었습니다.
- CIFAR-10 데이터셋에서 총 3,938개 모델 변형체가 평가되었습니다.
- 최상의 구성은 top-1 정확도 86.45%를 달성했으며, 237개 변형체가 80%를 초과했습니다.
- CosineAnnealingWarmRestarts와 CyclicLR는 기본 감쇠 전략을 일관되게 상회합니다.
결과적으로 얻은 정확도 랜드스케이프는 LEMUR nn-dataset에 기여되었으며, 원칙적인 스케줄러 선택을 위한 실용적인 참조 자료를 제공합니다.