Los autores proponen MILES (Modular Instruction Memory with LEarnable Selection), un marco diseñado para mejorar el razonamiento de modelos de lenguaje grandes en tiempo de prueba acumulando dinámicamente experiencia reutilizable a medida que llegan problemas secuencialmente. A diferencia de los métodos existentes que almacenan plantillas rígidas o utilizan selección heurística, MILES mantiene unidades de memoria modular compuestas por pares asimétricos de incrustaciones de subobjetivo e instrucciones secundarias, cada una asociada con un cabezal de selección aprendible.
- El marco emplea un mecanismo de recuperación de grueso a fino donde el nivel grueso permite la expansión de memoria y recopila supervisión de muestras confiables.
- La etapa fina aplica los cabezales de selección aprendidos para reordenar candidatos y guiar el razonamiento para muestras inciertas.
- Este enfoque permite una expansión incremental de la memoria bajo restricciones realistas en tiempo de prueba con supervisión limitada.
Los experimentos extensos demuestran que MILES coincide consistentemente o supera a los métodos anteriores mientras logra compensaciones superiores entre precisión y eficiencia, robustez y transferibilidad.