Les auteurs proposent une méthode de Levenberg-Marquardt en coordonnées normales riemanniennes (RNC-LM) pour pallier la limitation de l'étape d'espace tangent de la LM standard, qui applique des mises à jour linéaires dans les coordonnées des paramètres. En reformulant l'équation géodésique, RNC-LM étend l'accélération géodésique aux corrections d'ordre arbitraire et construit des mises à jour à pas fini avec une cohérence de reparamétrisation progressivement plus élevée.
- La méthode élimine la composante tangentielle de l'accélération résiduelle ordre par ordre dans un cadre tangent mobile.
- Une recherche linéaire le long de la courbe RNC résultante contrôle la distance parcourue tout en maintenant le coût proche de celui de la LM standard.
- Sur les benchmarks classiques de moindres carrés non linéaires, RNC-LM améliore la convergence et la robustesse dans les vallées courbes et les problèmes à rang déficient.
- Sur un benchmark de mode d'échec PINN de réaction-diffusion, il réduit l'erreur L2 relative à l'ordre de 1e-3 et récupère une solution physiquement significative.
- Sur une tâche d'ajustement de surface d'énergie potentielle d'apprentissage automatique à grande échelle, il atteint un gain de vitesse de 34 fois par rapport à la LM standard.
RNC-LM rend la réduction effective de l'objectif plus cohérente avec la prédiction du modèle linéaire de la LM, améliorant les performances dans des paysages d'optimisation complexes.