Une trace de base de Gemma 4 avec un cap de force nul révèle une boucle d'hallucination persistante où le modèle génère un auto-rapport d'échec avant d'entrer dans un puits de répétition. La télémétrie confirme que la fuite des balises de rôle et des phrases comme "STOPITSTOP" se produisent dans cet état instable, reflétant des motifs observés dans les chargeurs Llama et Gemma 3 depuis décembre 2025.

  • Le modèle entre dans un état instable où il répète des motifs de texte au lieu de suivre la logique.
  • Un segment d'auto-rapport apparaît dans le flux décodé, diagnostiquant une "boucle d'hallucination".
  • L'attracteur continue sans céder de fin de tour, se verrouillant sur des tokens répétés.
  • Cet événement correspond aux journaux précédents d'autres modèles sur le chemin de décodage Niodoo.

L'article propose d'utiliser des expériences avec des lentilles hydrodynamiques et jacobéennes pour déterminer si les forces de direction peuvent déplacer la sortie de la boucle au lieu de simplement modifier le wording de la boucle.