Optimizer SOAP dan Muon mengungguli Adam dalam melatih potensial antaratom pembelajaran mesin

Para peneliti secara sistematis membandingkan optimizer berstruktur matriks, termasuk SOAP, Muon, dan hibrida SOAP-Muon, terhadap optimizer Adam bawaan untuk melatih potensial antaratom pembelajaran mesin (MLIPs) NequIP dan Allegro. Studi ini menemukan bahwa optimizer baru ini secara substansial mengungguli Adam dalam hal kecepatan konvergensi dan akurasi akhir.

• SOAP dan SOAP-Muon muncul sebagai metode yang robust dengan peningkatan kinerja yang konsisten.
• Muon hanya memberikan perbaikan parsial relatif terhadap Adam.
• Keuntungan kinerja sangat menonjol di bawah kondisi pengawasan gaya parsial.

Hasil-hasil tersebut menunjukkan bahwa pilihan optimizer adalah sumbu desain yang kritis, namun sering terabaikan, untuk meningkatkan efisiensi dan akurasi pelatihan MLIP.