arxiv Moonshot AI (arXiv) · il y a 605 j

Microsoft publie le rapport technique de Phi-4 sur le modèle 14B utilisant des données synthétiques

Traduit de English → Français

Microsoft a publié le rapport technique pour Phi-4, un modèle de langage de 14 milliards de paramètres qui privilégie la qualité des données grâce à une utilisation stratégique de données synthétiques tout au long de l'entraînement. Contrairement aux précédents modèles Phi qui distillaient les capacités de GPT-4, Phi-4 surpasse son enseignant sur les tâches de QA axées sur les STEM, démontrant que ses techniques de génération de données et de post-entraînement vont au-delà de la simple distillation.

Le modèle utilise une recette d'entraînement centrée sur des données synthétiques de haute qualité plutôt que sur du contenu web organique ou du code.
Phi-4 surpasse considérablement GPT-4 en capacités de réponse aux questions axées sur les STEM.
Il atteint des performances solides par rapport à sa taille, particulièrement sur les benchmarks axés sur le raisonnement, grâce à l'amélioration des données, du curriculum d'entraînement et des innovations en post-entraînement.

Le rapport souligne que malgré des changements architecturaux minimes par rapport à phi-3, la focalisation sur la qualité des données permet au modèle de dépasser les capacités de l'enseignant dans des domaines spécifiques.

Importance 1/3 Moonshot AI (arXiv) Microsoft Research Research paper Training methods

Lire l'original

Articles similaires

arxiv Moonshot AI (arXiv) · il y a 466 j

Microsoft lance Phi-4-Mini-Reasoning, un modèle de 3,8 milliards de paramètres surpassant les modèles de raisonnement plus grands

Microsoft a présenté Phi-4-Mini-Reasoning, un modèle compact de 3,8 milliards de paramètres qui atteint des performances supérieures en raisonnement mathématique par rapport à des concurrents significativement plus grands grâce à une recette d'entraînement systématique en quatre étapes.

arxiv arXiv cs.LG · il y a 2 j

U-OPSD permet l'auto-distillation non supervisée sur politique pour les LLM

Les chercheurs proposent l'Auto-Distillation Non Supervisée sur Politique (U-OPSD), une méthode qui améliore les performances post-entraînement des grands modèles de langage en utilisant uniquement les générations du modèle lui-même, sans supervision externe. L'approche échantillonne plusieurs rollouts pour construire une pseudo-solution par vote majoritaire, puis distille la distribution d'un enseignant dans les préfixes de la complétion incorrecte la plus longue du modèle.

media MarkTechPost · il y a 3 j

SkillOpt de Microsoft permet le transfert de compétences d'agent entre Codex et Claude Code

Des chercheurs de Microsoft, de l'Université Jiao Tong de Shanghai, de l'Université Tongji et de l'Université Fudan ont développé SkillOpt, un optimiseur dans l'espace textuel qui entraîne des documents de compétences en langage naturel tout en maintenant le modèle cible figé. Le système utilise un modèle d'optimisation pour proposer des modifications bornées basées sur des rollouts notés, exportant le résultat sous forme d'un seul fichier `best_skill.md`.

arxiv arXiv cs.CL · il y a 9 j · 2 vues

Mémoire à l'échelle : Passage à l'échelle des modèles de mémoire à long terme paramétrique jusqu'à 6,9 milliards de paramètres

Les chercheurs présentent Memory Decoder at Scale, un système qui met à l'échelle les modèles de mémoire à long terme paramétrique jusqu'à 6,9 milliards de paramètres et les pré-entraîne sur 300 milliards de tokens. Pour pallier l'irréalisme des pipelines Faiss standards à cette échelle de données, les auteurs implémentent un pipeline d'indexation distribué avec un chargement par lots et dispersé des distributions kNN.

lab Microsoft Research Blog · il y a 10 j · 3 vues

Microsoft Research présente EvoLib pour l'apprentissage au moment du test avec une bibliothèque évolutive

Microsoft Research a présenté EvoLib, un cadre qui permet aux grands modèles de langage d'apprendre de leur propre expérience pendant l'inférence sans nécessiter d'étiquettes de vérité terrain ni de retour externe. Au lieu de stocker les expériences brutes comme des mémoires statiques, EvoLib les transforme en compétences réutilisables et en réflexions qui sont continuellement affinées, consolidées et réévaluées.