Um usuário enviou uma correção para o llama.cpp que resolve falhas e travamentos encontrados ao executar o DeepSeek V4 Flash (DSV4). O problema decorreu da remoção inadequada de sequências durante voltas divergentes, o que fez com que o sistema re-preenchesse milhares de tokens em vez de apenas a diferença.
- A causa raiz foi a incapacidade do DSV4 de realizar um seq_rm parcial, forçando uma restauração de checkpoint que falhou em purgar as futuras células SWA.
- Este erro esgotou a janela SWA de 768 células, levando a uma falha "Context size has been exceeded" por volta da profundidade lógica de 1250 tokens.
- A correção implementa um seq_rm adequado do sufixo divergente, garantindo que apenas a diferença seja re-preenchida.
- O autor fornece um branch bifurcado para abordar esses problemas com reprodução e testes.
A atualização remove tanto a falha quanto o travamento, melhorando a experiência do usuário mesmo em velocidades de tokens mais baixas.