Investigadores de Red Hat y la NASA están desarrollando el Asistente Digital del Oficial Médico de la Tripulación (CMO-DA), un sistema de IA médica que ejecuta modelos de lenguaje grandes en hardware local con cero dependencia de la nube. Esta iniciativa aborda la inviabilidad de la telemedicina basada en la Tierra para astronautas en misiones a la Luna o Marte debido al retraso de luz y las interrupciones de comunicación.
El CMO-DA utiliza RamaLama, una herramienta CLI de código abierto respaldada por Red Hat, para gestionar la inferencia mediante llama.cpp y otros motores como MLX y vLLM. El sistema trata los modelos de IA como artefactos portátiles, permitiendo despliegues reproducibles y verificables criptográficamente en hardware edge. La NASA está actualmente probando el sistema en hardware terrestre que refleja al HPE Spaceborne Computer a bordo de la Estación Espacial Internacional.
La NASA adoptó una arquitectura local-first porque las limitaciones de cómputo a bordo y la necesidad de salidas confiables para la toma de decisiones médicas no dejan otra opción viable. Este despliegue demuestra el papel crítico de los LLM locales y abiertos en el apoyo a futuras misiones de espacio profundo.