media Hugging Face Forums · il y a 1 h · open_models

Cymela découvre que les états latents dans le raisonnement continu contiennent des informations sur la question mais sont inutilisables par le décodeur

Traduit de English → Français

Les chercheurs de Cymela étudiant le raisonnement en espace latent continu avec le modèle Monarch Chrysalis v1 ont observé un mode d'échec spécifique où les représentations internes du modèle n'aident pas efficacement la génération. Bien que des tests causaux aient confirmé que les vecteurs latents sont clairement spécifiques à la question et varient considérablement entre les invites, le transfert de ces états entre les problèmes a montré que la qualité de la réponse change à peine.

Le décodeur en aval semble insensible aux informations spécifiques à la tâche présentes dans le canal latent.
L'équipe a identifié des problèmes d'architecture et d'entraînement depuis le point de contrôle initial et exécute une architecture révisée.
Un point de contrôle public pour le modèle hyper-3b-latent a été publié avec les résultats.

Les auteurs ne prétendent pas que le mécanisme fonctionne encore et suspendent toute affirmation supplémentaire jusqu'à ce que les exécutions actuelles déterminent si les changements d'architecture résolvent le problème.

Importance 1/3 Confiance 1/3 Hugging Face Forums Research paper Training methods

Lire l'original

Articles similaires

media Hugging Face Forums · il y a 4 j · 2 vues

Les expériences suggèrent que les réseaux neuronaux sont des systèmes dynamiques classiques avec état

Un chercheur a mené des expériences causales sur nanoGPT, ResNet-18 et un U-Net de diffusion pour étudier la mécanique de l'entraînement, de l'apprentissage et de l'inférence. Les résultats indiquent que ces processus forment un cycle continu où les mises à jour provoquent des réponses non linéaires et une réorganisation fonctionnelle persistante, qui influencent ensuite les états suivants.

arxiv arXiv cs.AI · il y a 6 j · 3 vues

PLVR utilise la rétropropagation symbolique pour apprendre des programmes de raisonnement vérifiables

Les chercheurs présentent PLVR (Program Learning with Verifiable Rewards), une méthode post-entraînement qui apprend des programmes de raisonnement explicites composés de primitives déterministes et neuronales, au lieu de mettre à jour les poids du modèle. L'approche utilise la rétropropagation symbolique, où l'attribution de crédit est effectuée via une inférence de types sur les signatures des primitives plutôt que par estimation.

arxiv arXiv cs.CL · il y a 9 j · 9 vues

La métrique STAR et le framework StarPO améliorent l'alignement de la traduction automatique document-à-document

Les chercheurs introduisent Sentence Translation Alignment Rate (STAR), une métrique auxiliaire conçue pour quantifier la fidélité structurelle au niveau de la phrase dans la traduction automatique document-à-document, abordant des problèmes tels que les omissions et les hallucinations. Ils proposent STAR-masked Preference Optimization (StarPO), un framework qui classe les hypothèses par qualité structurelle et utilise un masque d'alignement dynamique pour concentrer l'optimisation sur les segments désalignés.

arxiv arXiv cs.AI · il y a 17 j · 17 vues

Harness Continual Learning adapte l'état de l'agent en dehors des paramètres figés du modèle

Les auteurs présentent Harness Continual Learning (HCL), un paradigme où un agent s'améliore en faisant évoluer son harness orienté exécution plutôt qu'en mettant à jour les paramètres du modèle. Cette approche répond au défi de conserver le comportement acquis précédemment tout en s'adaptant à de nouvelles expériences via des composants tels que les prompts, les mémoires et les règles de routage.

media r/LocalLLaMA · il y a 18 j · 13 vues

Z.ai étend le post-entraînement de GLM-5.3 pour améliorer le raisonnement à long terme

Z.ai a publié GLM-5.3, une expérience contrôlée démontrant que l'extension du post-entraînement apporte des gains significatifs dans le raisonnement à long terme sans modifier le modèle de base ni le nombre de paramètres.