llama.cpp 프로젝트는 `create_checkpoint()` 내의 체크포인트 간격 evicton 로직에 대한 수정 사항을 포함하는 빌드 b10864을 출시했습니다. 이전에는 evicton 규칙이 가장 오래된 체크포인트를 유지하고 `checkpoint_min_step` 내에서 이후 체크포인트를 지웠습니다. 그 결과, 이 임계값보다 짧은 프롬프트는 재개에 필요한 체크포인트를 잃었습니다. 이로 인해 하이브리드 및 순환 모델은 이전 체크포인트에서 불필요하게 다시 prefill 해야 했습니다.
업데이트는 체크포인트 목록이 가득 찼을 때(`n_ctx_checkpoints`에서)에만 간격 규칙을 적용하도록 수정합니다. 또한 중복을 추가하는 대신 동일한 `n_tokens`의 기존 체크포인트를 대체하여 후속 요청에 대해 올바른 상태를 보장합니다. 이번 릴리스에서는 CPU, GPU 및 다양한 가속기 백엔드를 위한 macOS, Linux, Windows, Android 및 openEuler용 바이너리를 제공합니다.