NASA testa inferência de LLM local para futuras missões espaciais

Pesquisadores da Red Hat e da NASA estão desenvolvendo o Assistente Digital do Oficial Médico da Tripulação (CMO-DA), um sistema de IA médica que executa modelos de linguagem grandes em hardware local, sem dependência alguma de nuvem. Esta iniciativa aborda a inviabilidade da telemedicina baseada na Terra para astronautas em missões à Lua ou Marte devido ao atraso de luz e às interrupções de comunicação.

O CMO-DA utiliza o RamaLama, uma ferramenta CLI de código aberto apoiada pela Red Hat, para gerenciar a inferência por meio do llama.cpp e de outros motores como MLX e vLLM. O sistema trata os modelos de IA como artefatos portáteis, permitindo implantações reproduzíveis e verificáveis criptograficamente em hardware de borda. A NASA está atualmente testando o sistema em hardware terrestre que espelha o HPE Spaceborne Computer a bordo da Estação Espacial Internacional.

A NASA adotou uma arquitetura local-first porque as restrições de computação a bordo e a necessidade de saídas confiáveis para tomada de decisões médicas não deixam outra opção viável. Esta implantação demonstra o papel crítico dos LLMs locais e abertos no suporte a futuras missões espaciais profundas.