Nums AI выпустила Causilo, предварительно обученную табличную базовую модель для классификации и регрессии, которая демонстрирует наивысший показатель Elo среди одиночных моделей в TabArena. Модель использует подход обучения с контекстом (in-context learning), где обучающие строки хранятся как контекст без обновления весов, и доступна с кодом по лицензии Apache-2.0 и предварительно обученными весами на Hugging Face.

  • Causilo лидирует в TabArena с общим показателем Elo 1794, превосходя одиночные модели, такие как TabFM от Google и EXAONE Tabular от LG AI Research.
  • В бенчмарке ScoringBench она занимает первое место по метрикам CRPS, R² и RMSE на 101 наборе данных.
  • Архитектура использует кросс-внимание (cross-attention), чтобы вычислительная стоимость оставалась линейной относительно количества признаков, с ансамблем из 8 членов по умолчанию, разделяющими веса.
  • Версия 1.0.1 добавляет медианные и квантильные выходные данные для задач регрессии.
  • В тестах скорости на GPU H100 Causilo была самой быстрой как для обучения (fitting), так и для предсказания, хотя TabPFN-3 использовала значительно меньше памяти.

Модель можно развернуть для исследований и оценки на CUDA или CPU, тогда как коммерческое использование требует отдельной лицензии от Nums AI.