La actualización TIS 2.0 introduce una capacidad de reordenamiento de pasajes que elimina el sesgo de posición "perdido-en-el-medio" en la generación aumentada por recuperación sin requerir entrenamiento adicional. Al aplicar puntuaciones aprendidas de importancia de tokens para reordenar los documentos recuperados, el sistema logra una brecha de posición cero y mejora la precisión de coincidencia exacta en 5 puntos porcentuales sobre las líneas base.
- El reordenamiento de pasajes mediante puntuaciones TIS reduce la brecha LITM a 0.000 y eleva la EM a 21.7%, igualando el rendimiento del oráculo en consultas MS-MARCO.
- El checkpoint existente `tis-stage3-ert`, originalmente entrenado para compresión de caché KV, se transfiere sin entrenamiento previo (zero-shot) al reordenamiento de pasajes con resultados idénticos a un reranker dedicado.
- Un nuevo módulo `QueryAwareImportanceHead` añade interacción cruzada de atención consulta-contexto y entrenamiento contrastivo InfoNCE para la puntuación de relevancia por pasaje.
- La integración del sesgo de importancia TIS en la decodificación especulativa mejora la longitud de aceptación del draft desde 5.80 hasta 6.57, produciendo una aceleración del 12.5% en modelos LLaMA-3.
- Los nuevos checkpoints `tis-passage-reranker` y `tis-v8b-hard-anchor` ya están disponibles en HuggingFace junto con el repositorio de GitHub actualizado.
Los autores señalan que, aunque TIS aborda eficazmente el sesgo de posición, la extracción de respuestas sigue siendo el principal cuello de botella, ya que aproximadamente el 76% de los casos de prueba siguen siendo incorrectos incluso después del reordenamiento óptimo.