Les auteurs développent un cadre de déconfondement spectral non linéaire pour le gradient boosting afin de traiter la sensibilité aux confondeurs cachés dans les méthodes d'apprentissage automatique flexibles. Cette approche remplace la perte d'erreur quadratique ordinaire par une perte spectrale, ce qui ralentit l'apprentissage dans les directions alignées avec les confondeurs latents.

  • La méthode repose sur l'interaction entre le rétrécissement spectral et la régularisation, en particulier l'arrêt anticipé, plutôt que sur la perte spectrale seule.
  • Une interprétation par modèles mixtes relie le rétrécissement de type LAVA à l'ajustement des effets aléatoires, permettant une procédure empirique-Bayes pour le réglage.
  • Le cadre est étendu aux vraisemblances générales et au confondement non linéaire à l'aide d'approximations de Laplace et d'effets aléatoires par noyau.

Les expériences sur des données synthétiques et réelles montrent que le boosting déconfond spectral améliore l'estimation de la fonction cible sous confusion cachée tout en étant considérablement plus évolutif que les bases non linéaires existantes.