أطلق جيسون فان فام أداة Niodoo، وهي وقت تشغيل محلي مصمم لتوجيه نماذج اللغات الكبيرة (LLM) المجمدة من خلال حالاتها المخفية. يهدف المشروع إلى تصحيح أخطاء الخطوة الأخيرة عن طريق حقن الضوضاء أو "قوى فيزيائية" أثناء الاستدلال لكسر حلقات الرموز. يتيح هذا النهج للنماذج الأصغر تحسين الأداء دون ضبط دقيق، مستهدفاً حالات فشل محددة مثل معيار موجه الفراولة الخاص بـ Llama. يولد النظام علامات قياس عن بُعد خاصة به ويستخدم تحليل TDA لمراقبة الحالات الداخلية للنموذج للكشف عن سلوك الحلقة. طور فان فام هذه الأداة بشكل عضوي من خلال أشهر من البحث الموجه ذاتياً واختبار الاختراق، مع التأكيد على نتائج قابلة للتكرار من تجزئات ثابتة. الكود متاح على GitHub تحت المستودع Ruffian-L/niodoo-hidden-state-steering.
Niodoo: وقت تشغيل محلي لتوجيه الحالة المخفية لنماذج اللغات الكبيرة المجمدة
مُترجم من English → العربية