Aleph-Alpha ने Kolibri-1 जारी किया है, जो Apache 2.0 लाइसेंस के तहत Hugging Face पर उपलब्ध एक बड़ा भाषा मॉडल है।
- मॉडल में कुल 78 अरब पैरामीटर और 3.46 अरब सक्रिय पैरामीटर शामिल हैं।
- यह 1 मिलियन टोकन तक के संदर्भ विंडो का समर्थन करता है।
- मॉडल की आर्किटेक्चर और प्रशिक्षण को विस्तार से बताने वाला एक तकनीकी रिपोर्ट Aleph-Alpha से उपलब्ध है।
यह रिलीज लंबे संदर्भ क्षमताओं की आवश्यकता वाले उपयोगकर्ताओं के लिए ओपन-वेट विकल्प प्रदान करती है।