Обновление TIS 2.0 внедряет возможность переупорядочивания фрагментов, которая устраняет систематическую ошибку «потеряно посередине» (position bias) в генерации с дополнением извлечёнными данными без необходимости дополнительного обучения. Применяя выученные баллы важности токенов для переупорядочивания извлечённых документов, система достигает нулевого позиционного разрыва и повышает точность полного совпадения (exact match) на 5 процентных пунктов по сравнению с базовыми моделями.

  • Переупорядочивание фрагментов с помощью баллов TIS сокращает разрыв LITM до 0.000 и повышает EM до 21.7%, достигая производительности оракула на запросах MS-MARCO.
  • Существующий чекпоинт `tis-stage3-ert`, изначально обученный для сжатия KV-кэша, переносится в задачу переупорядочивания фрагментов в режиме zero-shot с идентичными результатами по сравнению со специализированным реранкером.
  • Новый модуль `QueryAwareImportanceHead` добавляет взаимодействие запрос-контекст через cross-attention и контрастное обучение InfoNCE для оценки релевантности каждого фрагмента.
  • Интеграция смещения важности TIS в спекулятивное декодирование увеличивает длину принятия черновика с 5.80 до 6.57, обеспечивая ускорение на 12.5% для моделей LLaMA-3.
  • Новые чекпоинты `tis-passage-reranker` и `tis-v8b-hard-anchor` теперь доступны на HuggingFace вместе с обновлённым репозиторием GitHub.

Авторы отмечают, что, хотя TIS эффективно решает проблему смещения позиции, извлечение ответа остаётся основным узким местом: примерно 76% тестовых случаев остаются неверными даже после оптимального переупорядочивания.