Авторы предлагают MILES (Modular Instruction Memory with LEarnable Selection) — фреймворк, предназначенный для улучшения рассуждений больших языковых моделей во время тестирования за счёт динамического накопления переиспользуемого опыта при последовательном решении задач. В отличие от существующих методов, которые хранят жёсткие шаблоны или используют эвристический отбор, MILES поддерживает модульные единицы памяти, состоящие из асимметричных пар подцелей (sub-goal embeddings) и подинструкций, каждая из которых связана с обучаемым заголовком отбора.
- Фреймворк использует механизм извлечения «от грубого к точному», где грубый уровень обеспечивает расширение памяти и собирает данные для обучения от уверенных примеров.
- На тонком этапе применяются обученные заголовки отбора для переранжирования кандидатов и направления рассуждений для неопределённых примеров.
- Этот подход позволяет инкрементально расширять память в условиях реальных ограничений тестирования при ограниченном количестве данных для обучения.
Обширные эксперименты демонстрируют, что MILES последовательно соответствует или превосходит предыдущие методы, достигая лучших компромиссов между точностью и эффективностью, а также повышенной устойчивости и переносимости.