ByteDance ने अपनी अगली पीढ़ी के AI मॉडल को AI विलयन तकनीकों पर निर्भर किए बिना विकसित करने की प्रतिबद्धता का ऐलान किया है।
कंपनी अपने भविष्य के मॉडल के लिए एक स्वतंत्र विकास पथ का अनुसरण करना चाहती है।
ByteDance ने अपनी अगली पीढ़ी के AI मॉडल को AI विलयन तकनीकों पर निर्भर किए बिना विकसित करने की प्रतिबद्धता का ऐलान किया है।
कंपनी अपने भविष्य के मॉडल के लिए एक स्वतंत्र विकास पथ का अनुसरण करना चाहती है।
MiniMax ने Hugging Face पर ओपन-वेट H3 ओमनी-मोडल वीडियो जनरेशन मॉडल जारी किया, जिसमें नेटिव स्टीरियो ऑडियो है जो एक फॉरवर्ड पास में वीडियो को चला सकता है। मॉडल 5 से 15 सेकंड तक के क्लिप्स के लिए 2K रिज़ॉल्यूशन और 24fps का समर्थन करता है और प्रति जनरेशन नौ रेफरेंस इमेज, तीन वीडियो और तीन ऑडियो क्लिप स्वीकार करता है।
शोधकर्ताओं ने अनसुपervised ऑन-पॉलिसी सेल्फ-डिस्टिलेशन (U-OPSD) का प्रस्ताव रखा है, एक विधि जो बाहरी निगरानी के बिवल मॉडल की अपनी जनरेशन का उपयोग करके बड़े भाषा मॉडलों के लिए पोस्ट-ट्रेनिंग सुधार प्राप्त करती है। यह दृष्टिकोण बहुमत वोट के माध्यम से एक pseudo-समाधान बनाने के लिए कई रोलआउट्स को सैंपल करता है, फिर शिक्षक वितरण को मॉडल की सबसे लंबी गलत पूर्णता के उपसर्गों में संक्षिप्त करता है।
डौइयां ने अपने मल्टीमोडल एम्बेडिंग (DME) मॉडल के लिए तकनीकी रिपोर्ट जारी की है, जो शक्तिशाली विभेदन और दक्षता प्राप्त करने के लिए बड़े पैमाने पर कंट्रास्टिव प्री-ट्रेनिंग को लेटेन्ट रीजनिंग के साथ जोड़ता है।
Apple ने अपने तीसरी पीढ़ी के आधार मॉडलों (AFM3) के लिए एक नई आर्किटेक्चर पेश की है जो "निर्देश-अनुसरण प्रuning" का उपयोग करके सक्रिय पैरामीटर गिनती को काफी कम करता है। मॉडल को डिज़ाइन किया गया है ताकि यह अपने MLP परतों का लगभग 20% सक्रिय कर सके, प्रति टोकन के बजाय प्रति प्रम्प्ट एक बार रूटिंग निर्णय लेकर।
NVIDIA के NeMo टीम ने Molt जारी किया है, जो शोधकर्ताओं के लिए एल्गोरिदम पुनरावृत्ति की जटिलता को कम करने के लिए डिज़ाइन किया गया एक ओपन-सोर्स एजेंटिक रीइंफोर्स्मेंट लर्निंग फ्रेमवर्क है। कोडबेस लगभग 8.6K पंक्तियों का RL कोड है, जो verl (62K पंक्तियाँ) और slime (25K पंक्तियाँ) जैसे तुलनीय फ्रेमवर्क्स की तुलना में काफी छोटा है।
हम ट्रैफ़िक मापने और साइट को बेहतर बनाने के लिए कुकीज़ का उपयोग करते हैं। आप एनालिटिक्स कुकीज़ स्वीकार या अस्वीकार कर सकते हैं। गोपनीयता नीति