Les chercheurs de Red Hat et de la NASA développent l'Assistant Numérique Médecin de Bord (CMO-DA), un système d'IA médicale qui exécute des grands modèles de langage sur du matériel local sans aucune dépendance au cloud. Cette initiative répond à l'impraticité de la télémédecine basée sur Terre pour les astronautes en mission sur la Lune ou Mars, en raison des délais lumineux et des coupures de communication.
Le CMO-DA utilise RamaLama, un outil CLI open-source soutenu par Red Hat, pour gérer l'inférence via llama.cpp et d'autres moteurs comme MLX et vLLM. Le système traite les modèles d'IA comme des artefacts portables, permettant des déploiements reproductibles et vérifiables cryptographiquement sur du matériel edge. La NASA teste actuellement le système sur du matériel terrestre qui reflète l'ordinateur HPE Spaceborne Computer à bord de la Station Spatiale Internationale.
La NASA a adopté une architecture locale-first car les contraintes de calcul à bord et la nécessité de sorties fiables pour la prise de décision médicale ne laissent aucune autre option viable. Ce déploiement démontre le rôle critique des LLM locaux et ouverts dans le soutien aux futures missions spatiales profondes.