Un développeur créant un harnais IA basé sur Node.js pour llama.cpp a résolu des problèmes avec le modèle Qwen3.6-27b ignorant les résultats d'appel d'outil et dérivant l'attention vers les questions précédentes.
La cause racine a été identifiée comme étant la suppression des jetons de raisonnement de l'historique de chat tout en utilisant le paramètre `--chat-template-kwargs '{"preserve_thinking":true}'`, ce qui a provoqué une confusion du modèle.
Le maintien de ces jetons de réflexion dans le contexte a résolu les problèmes de dérive d'attention et de gestion des appels d'outil.