A Nums AI lançou o Causilo, um modelo fundamental tabular pré-treinado para classificação e regressão que alcança a maior pontuação Elo entre modelos únicos no TabArena. O modelo utiliza uma abordagem de aprendizado em contexto onde as linhas de treinamento são armazenadas como contexto em vez de atualizar os pesos, e está disponível com código Apache-2.0 e pesos pré-treinados no Hugging Face.

  • Causilo lidera o TabArena com um Elo geral de 1794, superando modelos únicos como o TabFM do Google e o EXAONE Tabular da LG AI Research.
  • No ScoringBench, ocupa a primeira posição por CRPS, R² e RMSE em 101 conjuntos de dados.
  • A arquitetura usa atenção cruzada para manter o custo computacional linear em relação à contagem de recursos, com um ensemble padrão de 8 membros compartilhando pesos.
  • A versão 1.0.1 adiciona saídas de mediana e quantil para tarefas de regressão.
  • Em testes de velocidade em uma GPU H100, o Causilo foi o mais rápido tanto para ajuste quanto para previsão, embora o TabPFN-3 tenha usado significativamente menos memória.

O modelo é implantável para pesquisa e avaliação em CUDA ou CPU, enquanto o uso comercial requer uma licença separada da Nums AI.