Los investigadores presentan la fusión de modelos como una estrategia sin entrenamiento para mejorar la efectividad de la búsqueda ad-hoc en la recuperación de información conversacional, abordando los altos costos y el olvido catastrófico asociados con el ajuste fino tradicional. El estudio evalúa estrategias de fusión parámetro a parámetro lineales y no lineales, específicamente Model Soup y Slerp, en conjuntos de datos estándar ad-hoc y conversacionales.
- El enfoque permite que un único modelo de recuperación opere tanto en entornos ad-hoc como conversacionales sin ajuste fino adicional.
- Los experimentos demuestran que la fusión de modelos mejora significativamente las capacidades de búsqueda ad-hoc de los recuperadores conversacionales.
- El método mejora la generalización a través de conjuntos de datos específicos de tareas, logrando hasta un 15% más de NDCG@3 bajo condiciones zero-shot.
Esta técnica ofrece una alternativa rentable al reentrenamiento aprovechando modelos existentes para mantener el rendimiento fundamental mientras se adapta a contextos conversacionales.