Оптимизаторы SOAP и Muon превосходят Adam при обучении машинных межатомных потенциалов

Исследователи систематически сравнили оптимизаторы с матричной структурой, включая SOAP, Muon и гибридный SOAP-Muon, с оптимизатором Adam по умолчанию для обучения моделей NequIP и Allegro машинных межатомных потенциалов (MLIP). Исследование показало, что эти новые оптимизаторы существенно превосходят Adam как по скорости сходимости, так и по итоговой точности.

• SOAP и SOAP-Muon проявили себя как надежные методы с устойчивым приростом производительности.
• Muon обеспечил лишь частичное улучшение по сравнению с Adam.
• Преимущества в производительности были особенно заметны в условиях частичного контроля сил.

Результаты указывают на то, что выбор оптимизатора является критическим, но часто упускаемым из виду аспектом проектирования для повышения эффективности и точности обучения MLIP.