arxiv arXiv cs.CL · il y a 7 h · source : il y a 2 j · research

TelecomGPT-R1 : Post-apprentissage unifié pour le raisonnement sur des tâches télécom hétérogènes

Traduit de English → Français

Les chercheurs présentent TelecomGPT-R1, une famille de modèles de raisonnement télécom unifiés et open-source conçus pour automatiser les tâches d'ingénierie en raisonnant sur les normes, les configurations et les journaux. Le modèle comble les lacunes des LLM généralistes et spécialisés existants grâce à une approche structurée couvrant les axes du protocole, des connaissances, de la modélisation et des pannes.

Un cadre de génération de données conscient des axes affine les artefacts télécom publics en 104 880 paires question-réponse vérifiées avec un raisonnement par chaîne de pensée.
Le réglage fin supervisé intègre les connaissances télécom pour surmonter le problème du démarrage à froid pour l'apprentissage par renforcement.
L'optimisation de la politique d'échantillonnage dynamique (DAPO) avec des récompenses basées sur une grille routée par tâche stabilise les mises à jour RL sur des tâches hétérogènes.
Le modèle TelecomGPT-R1-27B atteint un score moyen de 89,64 % sur sept benchmarks du GSMA Open Telco Leaderboard, surpassant GPT-5, Claude et Gemini.

Les auteurs publient les modèles et une recette d'entraînement reproductible pour soutenir le développement communautaire dans l'automatisation télécom.

Importance 2/3 arXiv cs.CL Zhipu AI Reasoning models Research paper

Lire l'original

Articles similaires

arxiv arXiv cs.CL · il y a 75 j · 17 vues

L'analyse des représentations internes d'Eternis-Forecaster 8B révèle une amélioration de la calibration et met en évidence les problèmes de fidélité du CoT

Les chercheurs ont examiné si les représentations internes des grands modèles de langage offrent une fenêtre plus directe sur la calibration et la fidélité que le raisonnement par chaîne de pensée (CoT). En travaillant avec Eternis-Forecaster 8B sur OpenForesight, ils ont entraîné des sondes de regroupement de représentations sur les activations intermédiaires qui ont atteint une calibration substantiellement meilleure par rapport aux sorties standard du modèle.

arxiv Moonshot AI (arXiv) · il y a 595 j · 26 vues

GAIR-NLP lance LIMO, atteignant un raisonnement mathématique fort avec 817 échantillons

GAIR-NLP présente LIMO, un modèle démontrant qu'un raisonnement mathématique complexe peut être efficacement sollicité en utilisant seulement 817 échantillons d'entraînement curés. Cette approche défie l'hypothèse conventionnelle selon laquelle le réglage fin supervisé nécessite des ensembles de données massifs pour éviter la mémorisation.

arxiv arXiv cs.LG · il y a 1 j · 9 vues

Fathom-Vaidya améliore le raisonnement médical avec des récompenses basées sur des grilles

Les auteurs présentent Fathom-Vaidya, un modèle de 30B paramètres qui utilise des données synthétiques et l'apprentissage par renforcement basé sur des grilles pour améliorer le raisonnement diagnostique et clinique en santé. Le cadre d'entraînement applique d'abord un RL guidé par des règles aux questions dérivées de MedBullets pour le diagnostic, puis utilise 5,3k scénarios synthétiques multi-tours avec des grilles multidimensionnelles pour les tâches cliniques interactives.

media Hugging Face Forums · il y a 2 j · 15 vues

Proposition pour un système de décomposition de propositions et de raisonnement piloté par les contradictions

Un auteur propose une conception de recherche pour un système de raisonnement qui détecte les contradictions entre deux propositions en les décomposant en composants plus petits et en recherchant des collisions logiques, plutôt que de s'appuyer sur le jugement direct d'un LLM.

arxiv arXiv cs.CL · il y a 13 j · 28 vues

Une attaque unidirectionnelle sur GLM-5.3-Flash révèle la fragilité de l'alignement de sécurité dans les modèles MoE

Les chercheurs démontrent que l'ablation directionnelle, une attaque en boîte blanche qui supprime le refus en projetant hors d'une seule direction à partir des poids, reste efficace sur les modèles de pointe à mélange d'experts (MoE) tels que GLM-5.3-Flash. L'étude montre que bien que l'attaque survive à l'architecture, ses effets sont répartis entre les rédacteurs d'attention, denses et d'experts routés plutôt que concentrés en un seul endroit.