Un préprint du chercheur indépendant Jason Van Pham propose de traduire des représentations continues entre des modèles figés afin de permettre le pilotage, la récupération et le raisonnement sans modification des poids. Le travail introduit une méthode où les concepts sont compilés en directions résiduelles dans l'espace d'un modèle et mappés via une transformation affine vers les couches cachées d'un autre modèle.
- Dans la première expérience, l'ajout d'un gain négatif à une direction de concept dans Qwen2.5-0.5B a déplacé les générations des interprétations d'animaux vivants vers le langage objet (par ex. « réchauffeur portable ») pour un prompt concernant une créature fictive.
- Le second régime mappe des fragments ordonnés de Qwen3-Embedding-8B dans les emplacements d'entrée de Llama-3.1-8B, permettant au modèle cible de reconstituer des propositions ponctuelles et de soutenir l'inférence correspondante.
- La compression de rang 128 à l'étape d'embedding a préservé la similarité par paires (r=0,937) mais a réduit la qualité de reconstruction, démontrant que la géométrie de récupération survit à la compression avant l'identité des tokens.
- L'auteur limite explicitement ses affirmations, notant que la méthode n'est pas un affinage fin, ni une mémoire KV-cache, ni une preuve d'inversion sémantique générale.
La recherche établit une transition d'état résiduel sensible au signe sur des familles de prompts spécifiques et démontre que l'inversion compacte et la récupération ordonnée sont des points de fonctionnement distincts pour le transfert d'informations inter-modèles.