Un usuario ha enviado una corrección para llama.cpp que resuelve los bloqueos y pausas encontrados al ejecutar DeepSeek V4 Flash (DSV4). El problema provenía de una eliminación incorrecta de secuencias durante turnos divergentes, lo que causaba que el sistema re-prefijara miles de tokens en lugar de solo la diferencia.
- La causa raíz fue la incapacidad de DSV4 para realizar un seq_rm parcial, forzando una restauración de punto de control que falló en purgar las futuras celdas SWA.
- Este error agotó la ventana SWA de 768 celdas, llevando a un bloqueo "Context size has been exceeded" alrededor de la profundidad lógica de 1250 tokens.
- La corrección implementa un seq_rm adecuado del sufijo divergente, asegurando que solo se re-prefije la diferencia.
- El autor proporciona una rama bifurcada para abordar estos problemas con reproducción y pruebas.
La actualización elimina tanto el bloqueo como la pausa, mejorando la experiencia del usuario incluso a velocidades de tokens más bajas.