Pesquisadores propõem a Memorization-guided Data Reuse, um paradigma de treinamento que utiliza sinais de memorização do modelo para determinar adaptativamente quando e como os dados de alta qualidade devem ser reutilizados durante o treinamento de grandes modelos de linguagem. Esta abordagem visa melhorar a eficiência das amostras e o desempenho ao ultrapassar as restrições tradicionais de uma única passagem ou épocas fixas.
O método deriva sinais de "Janela de Memorização" a partir da dinâmica de retenção de perda e pontuações de avaliação downstream para tomar decisões fundamentadas sobre as épocas de treinamento e o agendamento de replay de dados. Experimentos preliminares indicam um regime impulsionado pela memorização, onde o desempenho do modelo continua a melhorar significativamente com a repetição, muito além do limite comumente citado de quatro épocas.
Essas percepções fornecem uma base para cronogramas de treinamento conscientes da memorização, ajudando a determinar orçamentos de reutilização apropriados e permitindo um treinamento de LLM mais eficiente com dados de alta qualidade limitados.