Nums AI ha lanzado Causilo, un modelo base tabular preentrenado para clasificación y regresión que alcanza la puntuación Elo más alta entre modelos individuales en TabArena. El modelo utiliza un enfoque de aprendizaje in-context donde las filas de entrenamiento se almacenan como contexto en lugar de actualizar los pesos, y está disponible con código bajo licencia Apache-2.0 y pesos preentrenados en Hugging Face.

  • Causilo lidera TabArena con una Elo general de 1794, superando a modelos individuales como TabFM de Google y EXAONE Tabular de LG AI Research.
  • En ScoringBench, ocupa el primer lugar por CRPS, R² y RMSE en 101 conjuntos de datos.
  • La arquitectura utiliza cross-attention para mantener el costo computacional lineal respecto al número de características, con una ensemble predeterminada de 8 miembros que comparten pesos.
  • La versión 1.0.1 añade salidas de mediana y cuantiles para tareas de regresión.
  • En pruebas de velocidad en una GPU H100, Causilo fue el más rápido tanto para ajuste como para predicción, aunque TabPFN-3 utilizó significativamente menos memoria.

El modelo es desplegable para investigación y evaluación en CUDA o CPU, mientras que el uso comercial requiere una licencia separada de Nums AI.