Les optimiseurs SOAP et Muon surpassent Adam dans l'entraînement des potentiels interatomiques par apprentissage automatique

Les chercheurs ont comparé systématiquement les optimiseurs à structure matricielle, y compris SOAP, Muon et le hybride SOAP-Muon, à l'optimiseur standard Adam pour l'entraînement des modèles NequIP et Allegro MLIP. L'étude a révélé que ces nouveaux optimiseurs surpassent considérablement Adam en termes de vitesse de convergence et de précision finale.

• SOAP et SOAP-Muon se sont imposés comme des méthodes robustes avec des gains de performance constants.
• Muon n'a fourni que des gains partiels par rapport à Adam.
• Les améliorations étaient particulièrement prononcées dans des conditions de supervision partielle des forces.

Les résultats indiquent que le choix de l'optimiseur est un axe de conception négligé mais impactant pour les potentiels interatomiques par apprentissage automatique.