Prior Labs는 데이터셋별 학습이나 튜닝 없이 단일 순전파로 테이블에서 예측하는 표형 파운데이션 모델인 TabPFN-3.5를 출시했습니다. 이 모델은 2015 오토 그룹 제품 분류 챌린지의 프라이빗 리더보드에서 0.375점을 기록하며, Gilberto Titericz와 Stanislav Semenov가 달성한 원래 우승 점수 0.382를 앞섰습니다.

  • TabPFN-3.5는 TabArena, BeyondArena, STRABLE, MulTaBench, RelArena-α, TALENT, ScoringBench 등 일곱 가지 표형 벤치마크에서 1위를 차지했습니다.
  • 기본 모델은 220M 파라미터로 확장되었으며, 더 넓은 인컨텍스트 트랜스포머(1024 차원)를 사용하고 셀 인코딩을 위해 학습된 푸리에 특징과 ECDF 랭크를 활용합니다.
  • 단일 멀티태스크 체크포인트가 이제 분류와 회귀 모두를 커버하여 양자변환, 견고한 스케일링 및 SVD 특징의 필요성을 제거했습니다.
  • 모델은 6,000개의 권장 기능(최대 20,000개 지원)과 함께 최대 1M 행을 지원하며, RTX PRO 6000 GPU에서 약 1분 이내에 실행됩니다.
  • 이 패밀리에는 TabPFN-3.5-Fast(84M 파라미터), TabPFN-3.5-Plus(API/엔터프라이즈 텍스트 처리 포함), TabPFN-3.5-Thinking(추가 추론 컴퓨팅)가 포함됩니다.

이번 출시는 연구, 평가 및 카그글을 위해 오픈 가중치를 제공하지만, 프로덕션 사용에는 Prior Labs의 API 또는 상업적 라이선스가 필요합니다.