Rilis llama.cpp b9978 menangani masalah checkpointing yang berdampak negatif pada beban kerja agentic. Sebelumnya, setiap giliran agen membuat checkpoint baru terlepas dari jarak langkah minimum, yang menyebabkan jendela cakupan menyempit.
- Rewind konteks, umum dalam loop pemanggilan alat, menghapus semua checkpoint dan memaksa proses ulang penuh.
- Perbaikan memastikan bahwa checkpoint yang berdekatan dari tugas sebelumnya di-evict untuk menjaga jendela tetap lebar.
- Optimisasi ini memungkinkan sesi agen jangka panjang tetap cepat.
Pembaruan ini menyelesaikan masalah keruntuhan checkpoint, meningkatkan kinerja untuk aplikasi agentic multi-giliran.