Le fusionnement de modèles améliore la recherche ad-hoc pour la récupération conversationnelle

Les chercheurs introduisent le fusionnement de modèles comme une stratégie sans entraînement pour améliorer l'efficacité de la recherche ad-hoc dans la récupération d'information conversationnelle, en s'attaquant aux coûts élevés et à l'oubli catastrophique associés au fine-tuning traditionnel. L'étude évalue les stratégies de fusionnement paramétrique linéaires et non-linéaires, spécifiquement Model Soup et Slerp, sur des ensembles de données ad-hoc et conversationnels standards.

• L'approche permet à un seul modèle de récupération de fonctionner dans des environnements ad-hoc et conversationnels sans fine-tuning supplémentaire.
• Les expériences démontrent que le fusionnement de modèles améliore significativement les capacités de recherche ad-hoc des retrieveurs conversationnels.
• La méthode améliore la généralisation entre les ensembles de données spécifiques à une tâche, atteignant jusqu'à 15% de NDCG@3 supérieur dans des conditions zero-shot.

Cette technique offre une alternative rentable au réentraînement en exploitant les modèles existants pour maintenir les performances fondamentales tout en s'adaptant aux contextes conversationnels.