Pesquisadores introduzem a fusão de modelos como uma estratégia sem treinamento para melhorar a eficácia da busca ad-hoc na recuperação de informação conversacional, abordando os altos custos e o esquecimento catastrófico associados ao ajuste fino tradicional. O estudo avalia estratégias de fusão parâmetro a parâmetro lineares e não lineares, especificamente Model Soup e Slerp, em conjuntos de dados padrão ad-hoc e conversacionais.
- A abordagem permite que um único modelo de recuperação opere tanto em ambientes ad-hoc quanto conversacionais sem ajuste fino adicional.
- Experimentos demonstram que a fusão de modelos melhora significativamente as capacidades de busca ad-hoc dos recuperadores conversacionais.
- O método melhora a generalização através de conjuntos de dados específicos da tarefa, alcançando até 15% mais NDCG@3 sob condições zero-shot.
Esta técnica oferece uma alternativa econômica ao retreinamento, aproveitando modelos existentes para manter o desempenho fundamental enquanto se adapta a contextos conversacionais.