研究人员系统地将具有矩阵结构的优化器(包括SOAP、Muon以及混合的SOAP-Muon)与默认的Adam优化器进行了对比,用于训练NequIP和Allegro机器学习原子间势(MLIP)。研究发现,这些新优化器在收敛速度和最终精度方面均大幅优于Adam。
- SOAP和SOAP-Muon展现出稳健的性能提升。
- 与Adam相比,Muon仅提供了部分改进。
- 在部分力监督条件下,性能优势尤为明显。
结果表明,优化器的选择是提高MLIP训练效率和精度的一个关键但常被忽视的设计维度。
研究人员系统地将具有矩阵结构的优化器(包括SOAP、Muon以及混合的SOAP-Muon)与默认的Adam优化器进行了对比,用于训练NequIP和Allegro机器学习原子间势(MLIP)。研究发现,这些新优化器在收敛速度和最终精度方面均大幅优于Adam。
结果表明,优化器的选择是提高MLIP训练效率和精度的一个关键但常被忽视的设计维度。