Os autores propõem o MILES (Modular Instruction Memory with LEarnable Selection), um framework projetado para melhorar o raciocínio de modelos de linguagem grandes em tempo de teste acumulando dinamicamente experiência reutilizável à medida que problemas chegam sequencialmente. Diferente de métodos existentes que armazenam modelos rígidos ou usam seleção heurística, o MILES mantém unidades de memória modular compostas por pares assimétricos de embeddings de subobjetivo e subinstruções, cada uma associada a um cabeçalho de seleção aprendível.
- O framework emprega um mecanismo de recuperação do grosseiro ao fino, onde o nível grosseiro permite a expansão da memória e coleta supervisão de amostras confiáveis.
- A etapa fina aplica os cabeçalhos de seleção aprendidos para reclassificar candidatos e guiar o raciocínio para amostras incertas.
- Esta abordagem permite a expansão incremental da memória sob restrições realistas de tempo de teste com supervisão limitada.
Experimentos extensos demonstram que o MILES consistentemente iguala ou supera métodos anteriores, enquanto alcança trade-offs superiores entre precisão e eficiência, robustez e transferibilidade.