أطلقت نوكيا للأبحاث التطبيقية مشروع AnyJev، الذي يمكّن المستخدمين من استخراج قرارات موثوقة مباشرةً من الحالة الداخلية لنموذج لغوي كبير في تمرير أمامي واحد.
يقدم الباحثون إطار عمل TokenProbe الذي يعالج استهلاك الرموز العالي في استدلال سلسلة التفكير (Chain-of-Thought) من خلال الاستفادة من القيمة غير المتجانسة للرموز داخل تسلسل. تستخدم الطريقة الاحتمال اللوغاريتمي المعياري لتمييز الرموز الهيكلية الأساسية عن الحشو الزائد، مما يسمح بالضغط الانتقائي.
نشر الباحث المستقل محمد منسي GlucoEdge، وهو دراسة هندسية توضح خط أنابيب تعلم آلي على الجهاز بالكامل للتنبؤ باتجاهات الجلوكوز لخمس فئات لمدة 15 دقيقة من بيانات مراقب الجلوكوز المستمر. تقدم الدراسة شبكة عصبية كونفولوشنية أحادية البعد (CNN) مدمجة تحتوي على 2,909 معلمة فقط، وتغطي سير العمل الكامل من PyTorch إلى التحويل إلى LiteRT.
نشر باحث مستقل مراجعة أدبية تحلل ما إذا كانت تقنيات ضغط النماذج مثل الكمّنة، والتقليم، والتنضيد تقلل فعلياً من استهلاك الطاقة المقاس أو تخفض فقط عمليات الفلوبس (FLOPs).
تقدم شركة Multiverse Computing تقنية الشفاء الواعي بالكمّية (QAH)، وهي طريقة تُدرِّب نماذج لغوية كبيرة مضغوطة ومُكمَّاة مباشرةً من معلميها الأصليين قبل الضغط. عند تطبيقها على نموذج GPT-OSS بحجم 120 مليار معامل، مُضغوطاً إلى 60 مليار معامل ومُكمّياً بصيغة MXFP4، تنتج هذه الطريقة نموذجاً يتفوق على نسخته الكاملة الدقة bfloat16 في 7 من أصل 9 اختبارات قياس.
يقترح الباحثون طريقة استدعاء تكيفية مع الإدخال وخالية من التدريب تُسمى تقليل ضرب المصفوفات (RMM)، والتي تقلل حاصل ضرب مصفوفات المحولات عن طريق اختيار شرائح ذات معلوماتية عالية على طول أبعاد الانكماش دون تعديل أوزان النموذج. تحت تحكم بسيط بنسبة الاحتفاظ، يوفر RMM مقايضة سلسة ومتوقعة بين الدقة والكفاءة عبر نماذج لغوية تتراوح من 1 مليار إلى 70 مليار معامل.
نستخدم ملفات تعريف الارتباط لقياس الزيارات وتحسين الموقع. يمكنك قبول أو رفض ملفات تعريف الارتباط الخاصة بالتحليلات. سياسة الخصوصية