L'article présente les Semantic Reference Frames (SemRF), un formalisme basé sur des ancres conçu pour séparer la mesure sémantique de la dynamique résiduelle dans les modèles de langage. Cette approche fixe des ancres pour mesurer les états par rapport à eux, répondant au problème où le décodage intermédiaire nécessite des coordonnées de lecture comparables entre les couches.
- SemRF utilise le couplage par pseudo-inverse pour une synchronisation exacte et fournit des coordonnées de base sémantique stables sous bi-inversibilité restreinte.
- La méthode induit un diagramme de Voronoï sémantique qui assigne chaque couche à une cellule grossière basée sur la distance ou les logits, tout en conservant le mouvement au sein de la cellule.
- Elle définit des étapes par couche, des profils de contribution et des diagnostics d'imbalance pour tracer le calcul résiduel comme une trajectoire sémantique en profondeur.
- La trace canonique est définie comme le chemin d'action minimum à l'intérieur d'un tube relaxé par marge, obéissant à une équation de spline discrète lorsqu'elle n'est pas vide.
- Une faible courbure dans ces traces implique une compressibilité linéaire par morceaux et une densité de connaissance locale, reliant la complexité de trace inférieure à moins de degrés de liberté sémantiques.
Les auteurs soutiennent que ce cadre fournit un lien conditionnel entre l'efficacité des paramètres et la complexité de la trajectoire, permettant l'analyse du calcul résiduel via des contraintes d'erreur d'interface contrôlée et de résidu de projection.