Исследователи систематически сравнили оптимизаторы с матричной структурой, включая SOAP, Muon и гибридный SOAP-Muon, со стандартным оптимизатором Adam для обучения моделей MLIP NequIP и Allegro. Исследование показало, что эти новые оптимизаторы существенно превосходят Adam как по скорости сходимости, так и по итоговой точности.
- SOAP и SOAP-Muon проявили себя как надежные методы с последовательным улучшением результатов.
- Muon обеспечил лишь частичное улучшение по сравнению с Adam.
- Улучшения были особенно заметны в условиях частичного контроля сил.
Результаты указывают на то, что выбор оптимизатора является упускаемым из виду, но значимым аспектом проектирования межатомных потенциалов машинного обучения.