Los optimizadores SOAP y Muon superan a Adam en el entrenamiento de potenciales interatómicos de aprendizaje automático

Los investigadores compararon sistemáticamente los optimizadores con estructura matricial, incluidos SOAP, Muon y el híbrido SOAP-Muon, contra el optimizador estándar Adam para entrenar modelos MLIP NequIP y Allegro. El estudio encontró que estos nuevos optimizadores superan sustancialmente a Adam tanto en velocidad de convergencia como en precisión final.

• SOAP y SOAP-Muon surgieron como métodos robustos con ganancias de rendimiento consistentes.
• Muon proporcionó solo ganancias parciales en comparación con Adam.
• Las mejoras fueron particularmente pronunciadas bajo condiciones de supervisión parcial de fuerzas.

Los resultados indican que la elección del optimizador es un eje de diseño pasado por alto pero impactante para los potenciales interatómicos de aprendizaje automático.