arxiv arXiv cs.CL · il y a 1 j · research

Fathom-Vaidya améliore le raisonnement médical grâce aux récompenses basées sur des rubriques

Traduit de English → Français

Les auteurs présentent Fathom-Vaidya, un modèle de 30B paramètres qui utilise des données synthétiques et l'apprentissage par renforcement basé sur des rubriques pour améliorer à la fois le raisonnement diagnostique et clinique dans les soins de santé.

Le cadre emploie un RL guidé par des règles et des rubriques sur des questions dérivées de MedBullets pour améliorer la précision du diagnostic.
Il génère 5,3k scénarios synthétiques multi-tours avec des rubriques multidimensionnelles pour évaluer le dialogue clinique interactif.
Le modèle obtient une amélioration de plus de 10 % sur MedXpertQA et une précision de 50,1 % sur HealthBench-Hard, surpassant les bases propriétaires comme GPT-5 (thinking).

Cette approche démontre que des ensembles de données synthétiques ciblés et l'entraînement basé sur des rubriques peuvent améliorer systématiquement les performances des LLM médicaux dans des tâches diagnostiques et conversationnelles complexes.

Importance 2/3 Dépasse un benchmark d'un laboratoire de premier plan arXiv cs.CL Research paper Training methods

Benchmarks

Benchmark	Modèle	Score
HealthBench	Fathom-Vaidya	50.1%

Lire l'original

Fathom-Vaidya améliore le raisonnement médical avec des récompenses basées sur des grilles

Les auteurs présentent Fathom-Vaidya, un modèle de 30B paramètres qui utilise des données synthétiques et l'apprentissage par renforcement basé sur des grilles pour améliorer le raisonnement diagnostique et clinique en santé. Le cadre d'entraînement applique d'abord un RL guidé par des règles aux questions dérivées de MedBullets pour le diagnostic, puis utilise 5,3k scénarios synthétiques multi-tours avec des grilles multidimensionnelles pour les tâches cliniques interactives.

arxiv arXiv cs.AI · il y a 1 j · 12 vues

Fathom-Vaidya améliore le raisonnement médical avec des récompenses basées sur des grilles

Les auteurs présentent Fathom-Vaidya, un modèle de 30B paramètres qui utilise des données synthétiques et l'apprentissage par renforcement basé sur des grilles pour améliorer à la fois le raisonnement diagnostique et clinique en santé. Le cadre d'entraînement cible d'abord la précision diagnostique en utilisant des questions dérivées de MedBullets, puis aborde les interactions cliniques multi-tours via 5,3k scénarios générés avec des grilles multidimensionnelles.

media Hugging Face Forums · il y a 2 j · 18 vues

MB-Bidram partage l'architecture expérimentale WideNDepth séparant le raisonnement des connaissances

MB-Bidram a publié une architecture neuronale expérimentale appelée WideNDepth (WND) conçue pour séparer les capacités de raisonnement du stockage des connaissances. Le modèle se compose d'une « partie large » qui fonctionne comme mémoire et d'une « partie profonde » qui agit comme le raisonneur.

media Hugging Face Forums · il y a 3 j · 18 vues

Proposition : transfert de connaissances progressif de Qwen 9B à 27B pour un modèle fixe de 4B

Un utilisateur des forums Hugging Face propose une expérience de transfert de connaissances progressif, où un modèle étudiant de taille fixe (Qwen 4B) apprend séquentiellement à partir de modèles enseignants de plus en plus grands plutôt que directement à partir du plus grand disponible.

arxiv arXiv cs.LG · il y a 7 j · 20 vues

OpenAI publie Open-1B avec un entraînement entièrement auditable

OpenAI a publié Open-1B, un modèle de langage entraîné selon un régime où chaque opération pendant l'entraînement est reproductible indépendamment sur du matériel hétérogène standard avec une certitude bit à bit. Cette approche traite des problèmes de reproductibilité inhérents aux modèles open-source en imposant un ordre défini aux sources de non-déterminisme, telles que les réductions de noyaux GPU et l'ordre des lots de données.