github vLLM · منذ 15 ساعة · inference

vLLM v0.27.1 يضيف دعمًا لرؤوس DSpark Markov المُكمَّاة

مُترجم من English → العربية

أصدرت vLLM الإصدار 0.27.1، وهو تحديث تصحيحي مبني على الإصدار السابق v0.27.0.

يُدخل التحديث دعمًا لرؤوس DSpark Markov المُكمَّاة.

الأهمية 1/3 الموثوقية 2/3 vLLM Inference efficiency

إصلاح llama.cpp b10361 لـ SWA الخاص بـ EXAONE 4.5 وتخطي TENSOR_SKIP في مسار البيانات الوصفية

يعالج إصدار llama.cpp b10361 خطأً حرجاً حيث لم يكن الانتباه ذو النافذة المنزلقة (SWA) مفعّلاً لنموذج LGAI-EXAONE 4.5 بسبب ترتيب المعلمات غير الصحيح أثناء التحميل.

lab Hugging Face Blog · منذ 12 ساعة

يحقق ALTK-Evolve دقة مساوية أو أفضل من ACE بكسر من تكلفة الاستدلال

ALTK-Evolve، وهو نظام للذاكرة الوكيلية يحول مسارات الوكلاء إلى إرشادات قابلة لإعادة الاستخدام دون تحديثات للأوزان، يساوي أو يتجاوز دقة ACE مع استخدام عدد أقل بكثير من الرموز. وعلى عكس ACE الذي يُدرج دليلًا شاملًا في كل خطوة، يستخدم ALTK-Evolve الاسترجاع الانتقائي لتقديم الإرشادات ذات الصلة فقط بناءً على قدرة النموذج.

lab NVIDIA Research · منذ 16 ساعة · 10 مشاهدات

يخفف DSTP من فشل تقليم الرموز البصرية في الاستدلال المعقد لنماذج MLLM

حدد الباحثون تحول المعلومات البصرية ذات الصلة (RVIS) أثناء فك التشفير كسبب رئيسي لفشل طرق تقليم الرموز البصرية الحالية في نماذج اللغة الكبيرة متعددة الوسائط (MLLMs). ولمعالجة ذلك، يقترحون تقليم الرموز الواعي بالتحول في مرحلة فك التشفير (DSTP)، وهو إطار عمل لا يتطلب التدريب يقوم بمحاذاة الرموز البصرية مع متطلبات الاستدلال المتغيرة.

media MarkTechPost · منذ 17 ساعة · مشاهدة واحدة

ويب أي آي تطلق عائلة نماذج TwIL-LM المنطقية الرسمية بحجم 1.7B و3B للتشكيل التلقائي المحلي

أطلقت ويب أي آي (webAI) نموذج TwIL-LM، وهو عائلة من اثنين من مبرهني المنطق الرسمي تتكون من نموذجين بـ 1.7B و3B معلمة مصممة للتشكيل التلقائي على الأجهزة المحلية. تترجم النماذج اللغة الإنجليزية إلى منطق الرتبة الأولى وتحقق صحة الاستنتاجات، حيث حقق المتغير ذو الـ 3B درجة بوابة إجمالية تبلغ 0.4218 في مهام المنطق الرسمي ضمن المجال.

media AI News (smol.ai) · منذ 17 ساعة

إطلاق ميتا لموديل Muse Glimmer 30B ذو الأوزان المفتوحة؛ أنثروبيك تحسّن الحد الأدنى لـ Riemann

أطلقت ميتا موديل Muse Glimmer، وهو موديل متعدد الوسائط كثيف بحجم 30B مُحسّن لنشر الوكلاء محلياً تحت رخصة Apache 2.0، مع وعد بنشر أوزان مستقبلية لـ Muse Spark 1.2.