Nums AI ने वर्गीकरण और रिग्रेशन के लिए एक प्रीट्रेन तालिका फाउंडेशन मॉडल Causilo जारी किया, जो TabArena पर एकाकी मॉडलों में सबसे उच्च Elo स्कोर हासिल करता है। यह मॉडल इन-कंटैक्स्ट लर्निंग दृष्टिकोण का उपयोग करता है जहां ट्रेनिंग पंक्तियों को वजन अपडेट करने के बजाय संदर्भ के रूप में संग्रहीत किया जाता है, और इसका Apache-2.0 कोड और प्रीट्रेन वजन Hugging Face पर उपलब्ध हैं।
- Causilo कुल Elo 1794 के साथ TabArena में शीर्ष पर है, Google के TabFM और LG AI Research के EXAONE Tabular जैसे एकाकी मॉडलों को पछाड़ता है।
- ScoringBench पर, यह 101 डेटासेट्स में CRPS, R², और RMSE द्वारा पहले स्थान पर है।
- आर्किटेक्चर फीचर गिनती में रैखिक कंप्यूटेशनल लागत बनाए रखने के लिए क्रॉस-एटेंशन का उपयोग करता है, जिसमें वजन साझा करने वाले 8 सदस्यों का डिफ़ॉल्ट एनसेंबल होता है।
- संस्करण 1.0.1 में रिग्रेशन कार्यों के लिए मीडियन और क्वांटिल आउटपुट जोड़े गए हैं।
- H100 GPU पर गति परीक्षणों में, Causilo फिटिंग और भविष्यवाणी दोनों के लिए सबसे तेज़ था, हालांकि TabPFN-3 ने काफी कम मेमोरी का उपयोग किया।
शोध और मूल्यांकन के लिए CUDA या CPU पर मॉडल तैनात किया जा सकता है, जबकि व्यावसायिक उपयोग के लिए Nums AI से अलग लाइसेंस की आवश्यकता होती है।