La versión llama.cpp b9978 aborda un problema de checkpointing que afectaba negativamente a las cargas de trabajo agénticas. Anteriormente, cada turno del agente creaba un nuevo checkpoint independientemente del espaciado mínimo de pasos, lo que colapsaba la ventana de cobertura.
- Los reenvíos de contexto, comunes en bucles de llamada a herramientas, borraban todos los checkpoints y forzaban un reprocesamiento completo.
- La corrección asegura que los checkpoints cercanos de tareas anteriores sean expulsados para mantener la ventana amplia.
- Esta optimización permite que las sesiones largas del agente permanezcan rápidas.
La actualización resuelve el problema de colapso de checkpoint, mejorando el rendimiento de aplicaciones agénticas multi-turno.