أطلقت مايكروسوفت ريسيرش Echoverse، وهو مجموعة من اثني عشر بيئة اصطناعية عميقة مصممة لتدريب وكلاء استخدام الحاسوب. تتضمن المبادرة عشرة عوالم محددة المجال وعالمين يركزان على القدرات، وقد بُنيت جميعها للحفاظ على حالة متماسكة ودقة سلوكية.
تستكشف ورقة بحثية جديدة استخدام نماذج لغوية كبيرة أساسية (LLMs) لأتمتة تحسين المعاملات الفائقة (HPO)، وهي عملية تعتمد عادةً على أساليب يدوية في إعدادات الميزانية المحدودة. طور المؤلفون منهجية تقترح فيها النماذج LLM تكوينات للمعاملات الفائقة بناءً على وصف مجموعة البيانات والنموذج، والتي يتم بعد ذلك تحسينها تكرارياً وفقًا لأداء النموذج.
يقدم الباحثون مصدر، وهو طريقة جديدة لنسبة بيانات التدريب (TDA) تجمع بين الكفاءة الحسابية لدوال التأثير ودقة النهج القائمة على التفكيك. باستخدام صيغة تشبه دالة التأثير لتقريب الاشتقاق غير الملتوي، يعالج مصدر قيود طرق الاشتقاق الضمني، مثل فشلها في حساب التحيز الأمثل أو خطوط الأنابيب متعددة المراحل.
يقدم الورقة JacNet، وهو بنية شبكة عصبية تتعلم بشكل مباشر جاكوبيان لدالة الإدخال-الإخراج بدلاً من التحويل نفسه. يتيح هذا النهج تحكماً دقيقاً في خصائص المشتق، مما يمكّن من فرض مسبق هيكلي مثل القابلية للعكس والاستمرارية k-Lipschitz.
تقدم المقالة أطروحة من jlorraine تتناول تحديات تطبيق التحسين ثنائي المستوى أو المتداخل على إعدادات التعلم العميق واسعة النطاق. بينما يحدث تحديث مجموعة واحدة من المعلمات عادةً في التحسين القائم على التدرج، تتطلب العديد من التطبيقات تحديث مجموعات فرعية من المعلمات على أهداف مختلفة متداخلة داخل بعضها البعض.
يقترح الباحثون Masters، وهو إطار تعلم بالتعزيز التدريجي بالقناع لتكثيف نماذج الرؤية واللغة واسعة النطاق إلى إصدارات مدمجة مناسبة للنشر على الحافة. تتناول الطريقة عدم الاستقرار الناتج عن فجوة الحجم بين نموذجي المعلم والطالب.
يقدم الباحثون منطقة تحسين السياسة القريبة (ZPPO)، وهي طريقة تُدخل معرفة المعلم في المطالبات بدلاً من تدرجات السياسة لمعالجة الهشاشة في تقطير المعرفة والانحراف في التعلم المعزز. يبني ZPPO أسئلة تتضمن مرشحين ثنائيين (BCQ) وأسئلة تتضمن مرشحين سلبيين (NCQ) للأسئلة الصعبة، ويعيد تدويرها عبر مخزن الاسترجاع حتى تتحسن دقة الطالب أو يتم إخراجها.
قدمت أبحاث مايكروسوفت مكتبة EvoLib، وهي إطار عمل يمكّن النماذج اللغوية الكبيرة من التعلم من خبراتها الخاصة أثناء الاستدلال دون الحاجة إلى تسميات مرجعية أو ملاحظات خارجية. بدلاً من تخزين الخبرات الخام كذكريات ثابتة، تحوّلها مكتبة EvoLib إلى مهارات قابلة لإعادة الاستخدام ورؤى تأملية يتم تحسينها باستمرار ودمجها وإعادة ترجيحها.
يحقق DharmaOCR جودة استخراج واستقرار أعلى من Mistral OCR4 وUnlimited-OCR في البرتغالية البرازيلية من خلال التدريب المخصص للمجال.
ThetaMem هي دراسة أولية بذرة واحدة لمُخلِّط متكرر يعدّل الحالة المتكررة عبر رفع مفاتيح مُكتسبة باستخدام ضرب هادامارد الموقّع أو المنتج الخارجي، بدلاً من تحسين آليات التوجيه. يعرض المؤلف نتائج مختلطة على معايير اصطناعية ويسعى صراحةً إلى النقد لتحديد أرخص تجربة يمكن أن تدحض النهج.
أطلقت داينا روبوتكس نموذج داينا-2، وهو نموذج عالمي-فعل لتلاعب الروبوتات، تم تدريبه مسبقاً على أكثر من مليون ساعة من الفيديو الذاتي المركز للبشر. تُظهر الشركة أن الفيديو البشري العادي يمكن أن يحل محل البيانات المُعلَّمة بالأفعال من خلال وضع قانون قياس يتراوح بين 1,000 و1,000,000 ساعة.
طوّر الباحثون نموذج MiLMMT-46-v1.0 للترجمة الآلية متعددة اللغات، الذي يطبّق ما بعد التدريب بدون مرجع على نماذج لغوية كبيرة مفتوحة المصدر. يستخدم الفريق تحسين السياسة النسبية للمجموعة (GRPO) مع مكافأة تعتمد على نموذجين لتقدير الجودة بدون مرجع، يتم التحكم فيهما عبر تحديد اللغة.
أطلق الباحثون نموذج MiLMMT-46-v1.0، وهو نموذج لغوي كبير مفتوح المصدر للترجمة الآلية متعددة اللغات، يعتمد على ما بعد التدريب بدون مرجع. بدءاً من النسخة المدققة بالإشراف MiLMMT-46-v0.1، طبق الفريق تحسين السياسة النسبية للمجموعة (GRPO) مع مكافأة تستند إلى نموذجين لتقدير الجودة بدون مرجع، يتم تفعيلهما عبر تحديد اللغة.
تقدم Multiverse Computing نهجاً فعالاً من حيث الذاكرة لتقريب المعرفة في نماذج اللغات الكبيرة، من خلال الجمع بين تخزين اللوغاتات (logits) الأعلى قيمة بشكل غير متصل وخسارة تباعد كولباك-لايبلر (KL) المقطعية المندمجة. يلغي هذا الأسلوب الحاجة إلى الاحتفاظ بنماذج المعلم والطالب في الذاكرة في آنٍ واحد، مما يقلل بشكل كبير من متطلبات ذاكرة الفيديو.
أعلنت بايت دانس عن التزامها بتطوير نموذج ذكاء اصطناعي من الجيل القادم دون الاعتماد على تقنيات التقطير الذكي.
يقترح الباحثون التنقيح الذاتي غير الخاضع للإشراف في السياسة الحالية (U-OPSD)، وهي طريقة تحقق تحسينًا ما بعد التدريب لنماذج اللغات الكبيرة باستخدام توليدات النموذج الخاصة به فقط دون إشراف خارجي. تعتمد الطريقة على أخذ عينات من عدة مسارات لبناء حل شبه صحيح عبر التصويت بالأغلبية، ثم تنقيح توزيع المعلم إلى بادئات أطول إكمال خاطئ للنموذج.
أطلقت Apple بنية جديدة لنماذجها الأساسية من الجيل الثالث (AFM3) تستخدم "تقليم اتباع التعليمات" لتقليل عدد المعاملات النشطة بشكل كبير. تم تصميم النموذج لتفعيل حوالي 20% من طبقات MLP الخاصة به عن طريق اتخاذ قرارات التوجيه مرة واحدة لكل طلب بدلاً من كل توكن.
أطلق فريق NeMo التابع لشركة NVIDIA إطار عمل Molt، وهو إطار عمل مفتوح المصدر للتعزيز الوكيلي مصمم لتقليل تعقيد تكرار الخوارزميات للباحثين. يتكون قاعدة الشيفرة من حوالي 8.6K سطرًا من شيفرة RL، وهي أصغر بكثير من الأطر العاملة المماثلة مثل verl (62K سطرًا) وslime (25K سطرًا).
يقترح المؤلف فرضية مفادها أن مسارات الوكلاء الذين يستخدمون الأدوات ولكن فشلوا، مثل اختيار أدوات خاطئة أو حجوزات مشوهة، يمكن أن تكون بيانات قيمة لضبط دقيق لتدريب النماذج على الابتعاد عن هذه الأخطاء. يسعى المنشور للحصول على ملاحظات المجتمع حول ما إذا كان التدريب على مسارات الفشل المصححة فعالاً أم ضاراً.
تُقدم بنية PIN الإصدار الثاني طريقة لاختيار حجم الشبكة العصبية وسرعة الاستدلال مسبقاً قبل التدريب باستخدام ربط الأوزان. تجبر هذه التقنية مجموعات من الخلايا على الاحتفاظ بقيم متطابقة، مما يسمح للشبكة بالحفاظ على عرضها مع تقليل عدد الأوزان المخزنة بشكل كبير.