Un chercheur propose l'entraînement par résultat inversé pour réduire les hallucinations des LLM

Un chercheur expose une méthode d'évaluation de la cohérence logique des rapports étudiants en comparant les entrées aux inférences à l'aide de conditions nécessaires et suffisantes. L'approche utilise un « entraînement par résultat inversé » où l'inférence suit le chemin normal puis remonte du résultat vers le début, permettant au modèle de calculer des scores de similarité entre le texte original et sa reconstruction.

• L'entraînement et l'inférence normaux sont traités comme une condition nécessaire (A->B).
• L'entraînement et l'inférence inversés agissent comme une condition suffisante (B->A) en remontant du résultat au début.
• Les seuils de similarité déterminent la qualité logique : >0.8 est bon, 0.7-0.5 indique un saut, et <0.5 signale une erreur.

L'auteur suggère que ce mécanisme pourrait être intégré ou remplacer certaines parties des architectures LLM pour réduire les hallucinations.