SelfCompact permite a los modelos de lenguaje decidir de forma autónoma cuándo y cómo compactar el contexto acumulado durante el razonamiento. Al combinar una herramienta de resumen invocada por el modelo con una rúbrica ligera que guía la compacción basada en la estructura de la trayectoria, logra una compacción adaptativa efectiva sin necesidad de ajuste fino. Los resultados muestran que iguala o supera a los métodos de intervalo fijo en benchmarks de matemáticas y búsqueda agéntica, mejorando las líneas base hasta 18.1 puntos en matemáticas y 5-9 puntos en búsqueda, con un costo de tokens un 30-70% menor.
SelfCompact: Compacción de contexto autónoma para modelos de lenguaje
Traducido del English → Español