A atualização TIS 2.0 introduz uma capacidade de reordenação de passagens que elimina o viés de posição "perdido-no-meio" na geração aumentada por recuperação, sem exigir treinamento adicional. Ao aplicar pontuações aprendidas de importância de tokens para reordenar documentos recuperados, o sistema alcança lacuna zero de posição e melhora a precisão de correspondência exata em 5 pontos percentuais em relação às linhas de base.

  • A reordenação de passagens via pontuações TIS reduz a lacuna LITM para 0,000 e eleva a EM para 21,7%, igualando o desempenho do oráculo nas consultas MS-MARCO.
  • O checkpoint `tis-stage3-ert` existente, originalmente treinado para compressão de cache KV, transfere-se zero-shot para reordenação de passagens com resultados idênticos aos de um reranker dedicado.
  • Um novo módulo `QueryAwareImportanceHead` adiciona interação cruzada de atenção entre consulta e contexto e treinamento contrastivo InfoNCE para pontuação de relevância por passagem.
  • A integração do viés de importância TIS na decodificação especulativa melhora o comprimento de aceitação do drafter de 5,80 para 6,57, gerando um aumento de velocidade de 12,5% nos modelos LLaMA-3.
  • Novos checkpoints `tis-passage-reranker` e `tis-v8b-hard-anchor` estão agora disponíveis no HuggingFace junto ao repositório GitHub atualizado.

Os autores observam que, embora o TIS aborde eficazmente o viés de posição, a extração da resposta permanece o principal gargalo, pois aproximadamente 76% dos casos de teste permanecem incorretos mesmo após a reordenação ideal.