Le projet de recherche indépendant LIMEN analyse la dynamique interne de sept modèles Transformer open-source, révélant que l'ambiguïté sémantique modifie la géométrie de la trajectoire et découvrant une grammaire dynamique universelle à travers les architectures.

  • L'ambiguïté modifie significativement la courbure de la trajectoire et la similarité cosinus, mais n'augmente pas le chaos global ; au contraire, des modèles modernes comme Phi-1.5 et Llama-3.2 retardent l'engagement décisionnel.
  • Une grammaire universelle composée de sept motifs de transition a été identifiée dans tous les modèles testés, suivant un schéma Exploration (B) → Stabilisation/Traitement (A) → Décision (D).

L'état A agit comme un attracteur fort avec une probabilité d'auto-transition d'environ 0.91, tandis que Phi-1.5 maintient de manière unique des oscillations complexes B↔A tout au long de sa profondeur.

Ces résultats suggèrent que l'intelligence des Transformers repose sur une navigation géométrique contrainte, impliquant que les violations de cette grammaire pourraient indiquer des hallucinations et permettre un pilotage dynamique plus précis.