Nums AI 发布了 Causilo,这是一款用于分类和回归的预训练表格基础模型,在 TabArena 的单模型中获得了最高的 Elo 评分。该模型采用上下文学习(in-context learning)方法,将训练行作为上下文存储而非更新权重,其 Apache-2.0 代码和预训练权重已在 Hugging Face 上提供。

  • Causilo 以 1794 的整体 Elo 分登顶 TabArena,优于 Google 的 TabFM 和 LG AI Research 的 EXAONE Tabular 等单模型。
  • 在 ScoringBench 上,它在 101 个数据集上的 CRPS、R² 和 RMSE 指标中均排名第一。
  • 该架构使用交叉注意力机制,使计算成本随特征数量呈线性增长,默认集成由共享权重的 8 个成员组成。
  • 版本 1.0.1 为回归任务添加了中位数和分位数输出。
  • 在 H100 GPU 上的速度测试中,Causilo 在拟合和预测方面均最快,尽管 TabPFN-3 使用的内存显著更少。

该模型可在 CUDA 或 CPU 上部署用于研究和评估,而商业用途需从 Nums AI 获取单独许可。