연구자들은 NequIP 및 Allegro MLIP 모델을 훈련하는 데 있어 표준 Adam 최적화 알고리즘과 비교하여 SOAP, Muon, 그리고 하이브리드 SOAP-Muon을 포함한 행렬 구조 최적화 알고리즘들을 체계적으로 비교했습니다. 그 결과, 이러한 새로운 최적화 알고리즘들은 수렴 속도와 최종 정확도 모두에서 Adam을 크게 능가하는 것으로 나타났습니다.

  • SOAP 및 SOAP-Muon은 일관된 성능 향상을 보인 견고한 방법으로 부상했습니다.
  • Muon은 Adam에 비해 부분적인 향상만 제공했습니다.
  • 개선 사항은 부분 힘 감독 조건 하에서 특히 두드러졌습니다.

이 결과는 최적화 알고리즘의 선택이 기계 학습 상호 원자 전위에서 간과되었지만 중요한 설계 축임을 나타냅니다.