O lançamento do llama.cpp b9978 aborda um problema de checkpointing que impactava negativamente as cargas de trabalho agênticas. Anteriormente, cada turno do agente criava um novo checkpoint independentemente do espaçamento mínimo de etapas, o que colapsava a janela de cobertura.
- Rebobinamentos de contexto, comuns em loops de chamada de ferramentas, apagavam todos os checkpoints e forçavam um reprocesso completo.
- A correção garante que checkpoints próximos de tarefas anteriores sejam evictados para manter a janela ampla.
- Esta otimização permite que sessões longas do agente permaneçam rápidas.
A atualização resolve o problema de colapso de checkpoint, melhorando o desempenho de aplicações agênticas multi-turno.